Google, arama devinin gizlilik politikalarını ihlal ederek yapay zeka tarafından desteklenen bir sohbet robotunun ayrıntılarını herkese açık olarak ifşa ettiği için geçen hafta bir mühendisi askıya aldı.
Google’ın Sorumlu Yapay Zeka grubunda kıdemli bir yazılım mühendisi olan Blake Lemoine, LaMDA veya Diyalog Uygulamaları için Dil Modeli olarak bilinen sohbet robotunun duyarlılık kazandığına dair endişesini duymasının ardından ücretli idari izne çıkarıldı. Lemoine, 6 Haziran’da askıya alındığını açıkladı Orta gönderi ve daha sonra LaMDA’nın duyarlılığıyla ilgili endişelerini tartıştı. Washington post hafta sonu yayınlanan bir hikayede,
Medium gönderisinde Lemoine, onları üst yönetime iletmek için yeterli kanıt elde etmek için Google dışındaki kişilerle etik kaygıları araştırdığını söylüyor. Medium gönderisi, endişelerinin doğası hakkında “kasıtlı olarak belirsizdi”, ancak Post hikayesinde ayrıntılı olarak anlatıldı. Cumartesi günü, Lemoine yayınlanan LaMDA ile yaptığı bir dizi “röportaj”.
Lemoine, LinkedIn aracılığıyla yapılan bir yorum talebine hemen yanıt vermedi. İçinde twitter gönderisiLemoine balayında olduğunu ve 21 Haziran’a kadar yorum yapamayacağını söyledi.
Bir açıklamada Google, Lemoine’nin LaMDA’nın kendinin farkında olduğu iddiasını reddetti.
Google sözcüsü Brian Gabriel yaptığı açıklamada, “Bu sistemler, milyonlarca cümlede bulunan değiş tokuş türlerini taklit ediyor ve herhangi bir fantastik konuyu ele alabilir” dedi. “Dondurma dinozoru olmanın nasıl bir şey olduğunu sorarsanız, erime ve kükreme vb. hakkında metinler üretebilirler.”
Yüksek profilli askıya alma, Google’ın bir dizi ayrılıştan kurtulan Etik AI birimi içinde başka bir tartışma noktası oluşturuyor. 2020’nin sonlarında, önde gelen AI etiği araştırmacısı Timnit Gebru, Google’ın kendisini AI sistemlerindeki önyargılarla ilgili endişelerini dile getirdiği için kovduğunu söyledi. Yaklaşık 2.700 Google çalışanı bir sözleşme imzaladı. Gebru’yu destekleyen açık mektupGoogle’ın görevinden istifa ettiğini söylediği kişi. İki ay sonra, Ethical AI ekibine Gebru ile birlikte liderlik eden Margaret Mitchell, işten çıkarmak.
Araştırma bilimcisi Alex Hanna ve yazılım mühendisi Dylan Baker daha sonra istifa. Bu yılın başlarında Google, yapay zeka araştırmacısı Satrajit Chatterjee’yi görevden aldı. bir araştırma makalesine meydan okudu bilgisayar çipleri geliştirmek için yapay zeka kullanımı hakkında.
Yapay zeka duyarlılığı, bilimkurguda yaygın bir temadır, ancak çok az araştırmacı, teknolojinin bu noktada kendini tanıyan bir sohbet robotu oluşturmak için yeterince gelişmiş olduğuna inanıyor.
Kaynak : https://www.cnet.com/tech/google-engineer-suspended-after-saying-company-ai-is-sentient/#ftag=CAD590a51e