Sohbet robotu ChatGPT’nin tasarımcı firması OpenAI, yapay zekanın insanlar için güvenli olmasını sağlamak amacıyla ciddi miktarda kaynak yatırımı yapacaklarını ve yeni bir araştırma ekibi kuracaklarını bildirdi.
VOA Türkçe’de yer alan habere göre, OpenAI’a göre nihai amaç, yapay zekanın kendi kendini denetlemesini sağlamak. Yapay zeka teknolojisiyle ilgili en önemli meselelerden biri, insan tasarımı olan yapay zekanın kontrolden çıkarak insanlığa yararlı olmak yerine zarar verir hale gelmesinin nasıl önleneceğiyle ilgili. Bu nedenle yapay zekanın insani değerlerle uyumlu hale getirilmesi amacıyla “hizalama araştırmaları” yapılıyor.
OpenAI’ın eş kurucusu Ilya Sutskever ve firmanın hizalama araştırmaları sorumlusu Jan Leike, kaleme aldıkları blog paylaşımında, “Süperzekanın geniş kapsamlı gücü, insanlığın gücünün elinden alınmasına ya da hatta insanlık soyunun yok olmasına yol açabilir. Şu anda olası bir süper akıllı yapay zekayı yönlendirmek ya da kontrol etmek ve haydutlaşmasını engellemek için elimizde bir çözüm yok” ifadelerini kullandı.
Yapay zekanın olası tehlikeleri, hem yapay zeka araştırmacılarını hem de kamuoyunu kaygılandırıyor. Nisan ayında yapay zeka sektörünün ileri gelenleri ve uzmanlar, imza attıkları açık mektupta, topluma yönelik olası riskler nedeniyle OpenAI’ın GPT-4 yapay zeka sisteminden daha güçlü sistemler geliştirilmesine altı ay boyunca ara verilmesi çağrısı yapmıştı.
Reuters/Ipsos’un Mayıs ayında yaptığı bir anketse Amerikan kamouyunun üçte ikisinden fazlasının yapay zekanın olası olumsuz etkilerinden kaygılandığını, Amerikalılar’ın yüzde 61’inin de yapay zekanın medeniyeti tehdit edebileceğine inandığını ortaya koymuştu.
Yorumlar kapalı.