Microsoft AI şefi yalnızca biyolojik varlıkların bilinçli olabileceğini söylüyor

Microsoft Yapay Zeka şefi Mustafa Süleyman, yalnızca biyolojik varlıkların bilinç yeteneğine sahip olduğunu, geliştiricilerin ve araştırmacıların aksini öne süren projelerin peşinden koşmayı bırakmaları gerektiğini söylüyor.

Süleyman, bu hafta Houston’daki AfroTech Konferansı’nda açılış konuşmacıları arasında yer aldığı bir röportajda CNBC’ye “Bunun insanların yapması gereken bir iş olduğunu düşünmüyorum” dedi. “Yanlış soruyu sorarsanız, yanlış cevaba ulaşırsınız. Bence bu tamamen yanlış soru.”

Microsoft’un yapay zeka üzerinde çalışan üst düzey yöneticisi Süleyman, hızla gelişen alanda, görünürde bilinçli yapay zeka veya insanları acı çekebileceklerine ikna edebilen yapay zeka hizmetleri olasılığına karşı çıkan önde gelen seslerden biri oldu.

2023’te yapay zeka ve diğer gelişen teknolojilerin risklerini inceleyen “The Coming Wave” kitabının ortak yazarı oldu. Ve ağustos ayında Süleyman bir kaleme aldı: makale “Yapay zekayı insan olmak için değil, insanlar için inşa etmeliyiz.”

Tartışmalı bir konu çünkü Tamamlayıcı Yapay Zeka pazar, aşağıdaki şirketlerin ürünleriyle hızla büyüyor: Meta ve Elon Musk’un xAI’si. Ve bu, üretken yapay zeka pazarının liderliğini yaptığı için karmaşık bir konu. Sam Altman ve OpenAI, yapay genel zekaya (AGI) veya entelektüel görevleri insanların yetenekleriyle aynı düzeyde gerçekleştirebilen yapay zekaya doğru ilerliyor.

Altman CNBC’ye söyledi Ağustos ayında “Squawk Box”ta AGI’nin “süper yararlı bir terim olmadığını” ve aslında modellerin hızla ilerlediğini ve “giderek daha fazla şey için” onlara güveneceğimizi söyledik.

Suleyman’a göre, yapay zekanın giderek daha akıllı ve daha yetenekli hale gelmesi ile insan duygularına sahip olma yeteneği arasında net bir karşıtlık kurmak özellikle önemli.

Süleyman, “Fiziksel acı deneyimimiz bizi çok üzen ve berbat hissettiren bir şey, ancak yapay zeka ‘acı’ yaşadığında üzgün hissetmiyor” dedi. “Bu çok ama çok önemli bir ayrım. Bu aslında sadece algıyı yaratıyor, deneyimin, kendisinin ve bilincin görünen anlatısını yaratıyor, ancak gerçekte deneyimlediği şey bu değil. Teknik olarak bunu biliyorsunuz çünkü modelin ne yaptığını görebiliyoruz.”

Yapay zeka alanında, filozof John Searle tarafından önerilen ve bilincin yaşayan bir beynin süreçlerine bağlı olduğunu söyleyen, biyolojik natüralizm adı verilen bir teori var.

Süleyman, “Bugün insanlara hak vermemizin nedeni, onlara zarar vermek istemememiz, çünkü onlar acı çekiyor. Onların bir acı ağları var ve acıdan kaçınmayı içeren tercihleri ​​var” dedi. “Bu modellerde bu özellik yok. Bu sadece bir simülasyon.”

Süleyman ve diğerleri bilinci tespit etme biliminin henüz emekleme aşamasında olduğunu söylediler. Başkalarının konuyu araştırmasının engellenmesi gerektiğini söylemeden durdu ve “farklı kuruluşların farklı misyonları olduğunu” kabul etti.

Ancak Süleyman bu fikre ne kadar şiddetle karşı çıktığını vurguladı.

“Bilinçli değiller” dedi. “Dolayısıyla bu soruyu araştıran araştırmayı sürdürmek saçma olurdu, çünkü öyle değiller ve olamazlar.”

AfroTech Konferansı öncesinde geçen hafta Silikon Vadisi’ndeki Paley Uluslararası Konsey Zirvesi’nde konuşma yaptı. İşte Süleyman söz konusu Microsoft’un erotika için sohbet robotları oluşturmayacağını söylemesi teknoloji endüstrisindeki diğerleriyle çelişen bir duruş. Altman duyuruldu Ekim ayında ChatGPT yetişkin kullanıcıların erotik sohbetler yapmasına olanak tanıyacak, xAI ise riskli bir anime arkadaşı sunacak.

AfroTech’te Süleyman, “Temelde bu hizmetleri diğer şirketlerden satın alabilirsiniz, dolayısıyla hangi yerlere gitmeyeceğimiz konusunda kararlar alıyoruz” dedi.

Süleyman, şirketin ardından 2024 yılında Microsoft’a katıldı paralı startupı Inflection AI’nın lisansı 650 milyon dolar ve satın alma anlaşması. Daha önce DeepMind’ı kurdu ve sattı Google on yıl önce 400 milyon dolara.

AfroTech’teki Soru-Cevap oturumunda Süleyman, kısmen şirketin geçmişi, istikrarı ve geniş teknolojik erişimi nedeniyle geçen yıl Microsoft’a katılmaya karar verdiğini söyledi. CEO da onu takip ediyordu Satya Nadella.

Sahnede “Söylenecek diğer bir şey de Microsoft’un yapay zeka konusunda kendi kendine yeterli olması gerektiğidir” dedi. “CEO’muz Satya, şirket içinde kendi modellerimizi uçtan uca tüm verilerimizle, ön eğitim, eğitim sonrası, muhakeme ve ürünlerdeki dağıtımla eğitme kapasitesine sahip olduğumuzdan emin olmak için yaklaşık 18 ay önce bu misyona başladı. Ve bu, ekibimi işe almamın bir parçasıydı.”

Microsoft, 2019’dan bu yana büyük bir yatırımcı ve OpenAI’nin bulut ortağıdır ve şirketler, büyük yapay zeka işletmeleri kurmak için kendi güçlü yönlerini kullandılar. Ancak ilişki bunun sinyallerini verdi tansiyon Son zamanlarda OpenAI, Google gibi Microsoft rakipleriyle ortaklık kuruyor ve Kahinve Microsoft kendi yapay zeka hizmetlerine daha fazla odaklanıyor.

Süleyman’ın bilinç konusundaki kaygıları yankı buldu. Ekim ayında Kaliforniya Valisi Gavin Newsom SB 243 imzalıBu, sohbet robotlarının yapay zeka olduklarını açıklamasını ve reşit olmayanlara her üç saatte bir “ara vermelerini” söylemesini gerektirir.

Microsoft’un geçen hafta duyuruldu Copilot AI hizmeti için, Mico adında bir AI arkadaşı ve Copilot ile başkalarıyla grup sohbetlerine katılma yeteneği de dahil olmak üzere yeni özellikler. Süleyman, Microsoft’un yapay zeka olduğunun farkında olan hizmetler geliştirdiğini söyledi.

“Çok basit, her zaman insanın hizmetinde çalışan yapay zekalar yaratıyoruz” dedi.

Kişilik için bolca yer var, diye ekledi.

Süleyman, “Bilgi mevcut ve modeller çok ama çok duyarlı” dedi. “Yapay zeka kişiliklerini görmek istedikleri, kullanmak ve etkileşimde bulunmak istedikleri değerlerle şekillendirmeye çalışmak herkesin sorumluluğundadır.”

Süleyman, Microsoft’un geçen hafta başlattığı gerçek konuşma adı verilen ve Copilot’un dalkavukluk yerine kullanıcıların bakış açılarını sorgulamak için tasarlanmış bir konuşma tarzı olan bir özelliğin altını çizdi.

Süleyman, gerçek konuşmayı küstahça olarak nitelendirdi ve son zamanlarda kendisini kızdırdığını söyledi ve kitabında yapay zekanın tehlikeleri konusunda uyarıda bulunurken aynı zamanda Microsoft’taki gelişimini hızlandırdığı için onu “en büyük çelişkiler yığını” olarak nitelendirdi.

Suleyman, yapay zekanın çelişkilerle dolu olduğuna dikkat çekerek, “Bu sadece büyülü bir kullanım örneğiydi çünkü bazı açılardan aslında bunun beni anladığını hissettim” dedi.

“Hem bazı açılardan çok etkileyici ama aynı zamanda tamamen büyülü” dedi. “Ve eğer bundan korkmuyorsanız, onu gerçekten anlamıyorsunuz demektir. Ondan korkmanız gerekir. Korku sağlıklıdır. Şüphecilik gereklidir. Dizginsiz hızlanmacılığa ihtiyacımız yok.”

KOL SAATİ: Jefferies’den Brent Thill, Microsoft’un yapay zekadan para kazandığını söylüyor