Yapay zeka “metalaştırma tuzağına” düşecek

OpenAI gibi şirketler daha güçlü hale geldikçe ve yatırımcılarına kar payı dağıtmaya çalıştıkça Yapay Zeka, bugün kullandığımız teknoloji platformlarına özgü görünen aynı değer erozyonuna karşı savunmasız mı?

Kanadalı teknoloji yazarı ve eleştirmeni Cory Doctorow teknolojik platformların hizmet kalitesinin erozyona uğraması çağrısında bulunuyor”boktanlaştırma” — doğrudan tercüme edilmesi zor olan ancak dijital platformların kasıtlı olarak bozulmasına neden olan süreci ifade eden bir terim.

Ama Portekizce’de, “Merdifikasyon” Belki de süreci basit bir şekilde anlatmak için en uygun ifade budur.

Doctorow’un önermesi basittir; kablolu: Google, Amazon, Facebook veya TikTok gibi teknolojik platformlar memnun etmek isteyerek başlarlar kullanıcılara, ancak rekabeti ortadan kaldırdıktan sonra kasıtlı olarak daha az kullanışlıkârı artırmak için.

Dönem “boktanlaştırma”Doctorow tarafından 2022 yılında icat edildi. öncü makale Bu fenomen hakkında ve mevcut kelime dağarcığına girdi – özellikle de çoğu kişi bunu fark ettiğinden ne olduğunu doğru bir şekilde anlattı. Aslında “Boşlaştırma”, Amerikan Lehçe Topluluğu tarafından en iyi dil olarak seçilmişti. “Yılın Sözü” 2023.

Kavram o kadar sık ​​anıldı ki, dünyevi niteliğini aştı. normalde burun kıvıracak yayınlarda bile yer almak böyle bir terime. Doctorow az önce bir yayınladı aynı isimli kitap Kapağında tahmin edilmesi kolay bir emojinin yer aldığı konuyla ilgili.

Sohbet robotları ve yapay zeka aracıları “pazarlanırsa” sonuçlar daha da kötü olabilir. Google’ın arama motorunun bozulmasından daha kötüAmazon sonuçları reklamlarla dolup taşıyor veya Facebook daha az sosyal içerik gösteriyor ve daha fazla öfke yaratan tıklama tuzağı.

Yapay Zeka, onu bizim dünyamız haline getirecek bir yol izliyor her yerde mevcut şirketisteklerimizin çoğuna doğrudan ve benzersiz yanıtlar sunuyoruz. İnsanlar güncel olayları yorumlamak, satın alma kararları vermek için zaten buna güveniyorlar. ve hatta yaşam kararları.

Büyük ölçekli bir yapay zeka modeli oluşturmanın muazzam maliyeti göz önüne alındığında, şunu varsaymak mantıklıdır: sadece birkaç şirket sektöre hakim olacak. Hepsi önümüzdeki yıllarda modellerini mükemmelleştirmek ve mümkün olduğu kadar çok insanın eline geçirmek için yüz milyarlarca dolar yatırım yapmayı planlıyor.

Şu anda Yapay Zeka Doctorow’un “kullanıcılar için iyi”.

Ancak bu devasa yatırımların karşılığını alma baskısı çok büyük olacak; özellikle de kullanıcıları zaten “tuzağa düşmüşler” kendi platformlarına şirketlerin kullanıcılarını kötüye kullanmasına izin veriyor ve ticari müşterilerin “tüm değeri kendileri için geri kazanmaları”.

Yapay zekanın “metalaşmasını” hayal ettiğimizde akla gelen ilk senaryo şu: reklam. Yapay zeka modelleri bunu yapmaya başlasaydı kabus olurdu görünmek için kimin para ödediğine dayalı öneriler. Bu henüz gerçekleşmiyor ancak sektördeki şirketler bu alanı aktif olarak araştırıyor.

Yakın zamanda yapılan bir röportajda Stratejiklik, Sam AltmanOpenAI CEO’su şuna inandığını söyledi: “Muhtemelen ilginç bir reklam ürünü var mı Bu, kullanıcı için bir zafer olabilir ve onlarla olan ilişkimiz açısından da olumlu olabilir”.

Ancak OpenAI Walmart ile anlaşma yaptığını duyurdu Bu, perakendecinin müşterilerinin doğrudan uygulamada satın alma işlemleri ChatGPT’den. Elbette orada potansiyel bir çatışma yok!

Yapay zeka arama platformu Şaşkınlık zaten deneysel bir programı var sponsorlu sonuçlar açıkça tanımlanmış görünüyor yanıtlarda yer alıyor ancak bu duyuruların “size doğrudan ve tarafsız yanıtlar sağlayan güvenilir bir hizmeti sürdürme konusundaki kararlılığımızı değiştirmeyeceğini” vaat ediyor.

Bu sınırlar kalacak mı?

“Bizim için asıl garanti buna izin vermeyeceğimizdirPerplexity sözcüsü Wired’a şunları söyledi: Jesse Dwyer. OpenAI’nin son Geliştirici Günü’nde Altman, şirketin “çok dikkatli olma ihtiyacının son derece farkında” olduğunu söyledi. kendisine değil kullanıcılarına hizmet eder.

Ancak Doctorow pek kredi vermiyor şuna benzer ifadeler: “Bir şirket ürünlerini ‘pazarlama’ yeteneğine sahip olur olmaz, her zaman karşı karşıya kalacaktır. bunu yapma isteği” diye yazıyor kitabında.

Yapay zekanın kendisini pazarlamasının tek yolu chatbot konuşmalarına veya arama sonuçlarına reklam yerleştirmek değildir. Doctorow’dan alıntılar birkaç şirket örneği bir pazara hakim olduktan sonra, iş modelini değiştirdi ve bunların tarifeleri.

Örneğin, 2023 yılında video oyun geliştirme araçlarının en popüler sağlayıcısı Unity, “çalışma hızıTepki o kadar olumsuzdu ki kullanıcılar şirketi geri adım atmaya zorladı.

Sadece şuna bak ücretli yayın hizmetleri Amazon Prime Video gibi: reklamsız bir hizmetti. Şimdi, film öncesinde ve sırasında reklam gösterirS. Ve onu kaldırmak için daha fazla ödeme yapmanız gerekiyor. Ve Prime’ın fiyatı artmaya devam ediyor.

Böylece olur büyük teknoloji şirketlerinde yaygın uygulama kullanıcıları bir ekosisteme kilitleyin ve ardından maliyetleri giderek artırmak.

Hatta şöyle de olabilir, aynı zeka seviyesini korumak bir chatbot’un yanıtlarında, kullanıcıların daha pahalı bir sürümü kullanmak için para ödemesi gerekiyor, başka bir klasik “pazarlama” numarası.

Yapay Zeka sektörü düşecek mi? Doctorow’un mevcut teknoloji devlerinde çok doğru bir şekilde tanımladığı “piyasalaştırma” sürecinde? Wired aynı soruyu her şeyi ve daha fazlasını bildiği iddia edilen birine sordu: GPT-5’in kendisi, tuhaf bir cevap verdi.

“Doctorow’un ‘yanlışlaştırma’ modeli (platformlar kullanıcılara fayda sağlayarak başlar, ardından değeri ticari müşterilere aktarır ve sonunda bunu kendileri için çıkarır) rahatsız edici derecede kesin bir şekilde uygulanır yapay zeka sistemlerine, teşvikler kontrol edilmezse”.

GPT-5 açıklamaya devam etti çeşitli formlar Yapay zeka şirketlerinin yapabileceği Kâr ve güç arayışı içinde ürünlerini kötüleştiriyorlar.

Yapay zeka şirketleri bize “bu işi batırmayacaklarının” garantisini verebilirler. Ama öyle görünüyor ki kendi ürünleriniz zaten kullanım kılavuzunu yazmıştır.