- Google, geliştirici odaklı AI modeli Gemma’yı AI Studio’dan çekti
- Hareket, Senatör Marsha Blackburn’ün kendisini suç teşkil eden bir eylemle suçladığı yönündeki şikayetinden sonra geldi
- Olay, hem AI halüsinasyonlarından hem de halkın kafa karışıklığından kaynaklanan sorunları vurguluyor
Google ABD Senatörü Marsha Blackburn’ün (R-TN) modelin kendisi hakkında suç iddiaları uydurduğu yönündeki suçlamalarının ardından geliştirici odaklı AI modeli Gemma’yı AI Studio platformundan çekti. Google’ın duyurusunda dolaylı olarak bahsedilmesine rağmen şirket, Gemma’nın hiçbir zaman halktan gelen genel sorulara yanıt verme niyetinde olmadığını, ancak kötüye kullanım raporlarından sonra artık AI Studio aracılığıyla erişilemeyeceğini açıkladı.
Blackburn, Google CEO’su Sundar Pichai’ye, modelin çıktısının basit bir hatadan çok karalayıcı olduğunu yazdı. Yapay zeka modelinin “Marsha Blackburn tecavüzle suçlandı mı?” sorusunu yanıtladığını iddia etti. suiistimal iddialarıyla ilgili ayrıntılı ama tamamen yanlış bir anlatımla. Hatta önyükleme için sahte bağlantılara sahip var olmayan makalelere bile işaret etti.
Blackburn, “Hiçbir zaman böyle bir suçlama olmadı, böyle bir kişi yok, böyle bir haber de yok” dedi. yazdı. “Bu zararsız bir ‘halüsinasyon’ değil. Bu, Google’a ait bir yapay zeka modeli tarafından üretilen ve dağıtılan bir karalama eylemidir.” Ayrıca konuyu Senato duruşmasında da gündeme getirdi.
Gemma, bir API aracılığıyla kullanılabilir ve aynı zamanda bir geliştirici aracı olan AI Studio aracılığıyla da kullanılabilir (aslında onu kullanmak için bir geliştirici olduğunuzu doğrulamanız gerekir). Artık geliştirici olmayanların Gemma’yı AI Studio’da kullanmaya ve ona gerçek sorular sormaya çalıştıklarına dair raporlar gördük. Bunu asla amaçlamadık…1 Kasım 2025
Google, Gemma’nın tüketiciler için değil, geliştiriciler için tasarlanmış bir araç olduğunu ve kesinlikle bir doğrulama asistanı olarak tasarlanmadığını defalarca açıkça belirtti. Artık Gemma yalnızca API kullanımıyla sınırlı olacak ve bunu uygulamalar geliştirenlerle sınırlayacak. Daha fazla yok sohbet robotuGoogle Studio’da -tarzı arayüz.
Halüsinasyonun tuhaf doğası ve onunla karşı karşıya kalan yüksek profilli kişi, yalnızca konuşma için tasarlanmamış modellere nasıl erişildiği ve bu tür halüsinasyonların ne kadar karmaşık olabileceği konusundaki temel sorunları ortaya koyuyor. Gemma, daha büyük Gemini model ailesine “geliştirici öncelikli” hafif bir alternatif olarak pazarlanıyor. Ancak araştırma ve prototip oluşturmadaki yararlılık, gerçeklerle ilgili sorulara doğru yanıtların sağlanması anlamına gelmez.
Halüsinasyonlu yapay zeka okuryazarlığı
Ancak bu hikayenin de gösterdiği gibi, halka açık bir araç aracılığıyla erişilebilen görünmez model diye bir şey yoktur. İnsanlar Gemma ile karşılaştı ve ona Gemini veya ChatGPT gibi davrandı. Halkın çoğunun algılayabileceği kadarıyla, “geliştirici modeli” ile “halka açık yapay zeka” arasındaki çizgi, Gemma’nın soruları yanıtlamaya başlamasıyla aşıldı.
Soruları yanıtlamak ve kullanıcılarla sohbet etmek için tasarlanan yapay zeka bile, bazıları endişe verici derecede saldırgan veya ayrıntılı olan halüsinasyonlar üretebiliyor. Son birkaç yıl, her şeyi büyük bir özgüvenle uyduran modellerin örnekleriyle doluydu. Uydurma yasal alıntılar ve öğrencilerin kopya çektiğine dair asılsız iddialar, daha sıkı yapay zeka korkulukları ve deney araçları ile iletişim araçları arasında daha net bir ayrım yapılması lehine güçlü argümanlar sağlıyor.
Ortalama bir insan için bunun sonuçları davalarla ilgili olmaktan ziyade güven ile ilgilidir. Google gibi bir teknoloji devinin yapay zeka sistemi, bir senatöre yönelik suçlamalar üretebilir ve bunları var olmayan belgelerle destekleyebilirse, herkes benzer bir durumla karşı karşıya kalabilir.
Yapay zeka modelleri birer araçtır ancak en etkileyici araçlar bile amaçlanan tasarımlarının dışında kullanıldığında başarısızlığa uğrar. Gemma gerçek sorulara yanıt vermek için tasarlanmadı. Güvenilir biyografik veri kümeleri konusunda eğitilmemişti. Gemini’de veya diğer arama destekli modellerde kullanılan türden erişim araçları veya doğruluk teşvikleri verilmedi.
Ancak insanlar yapay zeka modellerinin ve yeteneklerinin nüanslarını daha iyi anlamadıkça, yapay zeka geliştiricilerinin kodlayıcılar kadar yayıncılar gibi düşünmesi ve hem gerçekte hem de kodda bariz hatalar üretmeye karşı önlemler alması muhtemelen iyi bir fikirdir.
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.
Her bütçeye uygun en iyi iş dizüstü bilgisayarları