Yapay zeka zirvesi. Ya yeni rönesans ya da kaos

ABD'li teknoloji devleri OpenAI Üst Yöneticisi Sam Altman ile Anthropic'in Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde (BMGK) "yapay zeka ve uluslararası güvenlik" başlığı altında düzenlenen toplantıda değerlendirmeler yaptı.

OpenAI Üst Yöneticisi Altman, yapay zeka modellerinin geliştirilmesindeki hızın olumlu sonuçları daha da somutlaştırmasının yanı sıra "riskleri de daha acil hale getirdiğini" söyledi. Altman, "Önümüzde bir seçenek var. Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir." dedi.

Yapay zekanın ideal versiyonunun, "insanları dev bir makinenin dişlileri haline getirmek" ya da "insani unsurlar ortadan kalkana kadar hayatın her alanını optimize etmek" olmadığını savunan Sam Altman, "Bu modeller, insanların bugün ulaşılamaz gibi görünen hayallerini ve hedeflerini gerçekleştirmeleri için yeni araçlar olabilir." diye konuştu.

Yapay zeka sistemlerinin "daha kabiliyetli ve otonom" hale gelebileceğini, dünyadaki güç dengelerini değiştirebileceğini ve kendi kendilerini geliştirebildikçe insan müdahalesini saf dışı bırakabileceğini vurgulayan OpenAI CEO'su, "Yapay zeka geliştirme süreci giderek daha otomatik hale geldikçe, ilerleme hızı da önemli ölçüde artabilir. Bu durum, son derece dikkatli davranılmasını gerektiriyor." ifadelerini kullandı.

Şirketlerin, faydalar uğruna riskleri göze almaması ve insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini kaydeden Altman, "Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco'daki laboratuvarlar tarafından alınmaması gerekir. Bu kararlar, demokratik süreçler aracılığıyla ve halkına hesap vermekle yükümlü hükümetler tarafından şekillendirilmelidir." değerlendirmesinde bulundu.

Anthropic'in Üst Yöneticisi Amodei de çevrim içi katıldığı toplantıda, bu olağanüstü ilerlemenin yönetilmesi gereken riskleri de beraberinde getirdiğini anlattı.

Amodei, "İki ana risk kategorisi görüyorum. Birincisi, yapay zeka modellerinin kötüye kullanılması, örneğin biyoteröristler tarafından biyolojik silah üretmek için kullanılması. İkinci risk ise kontrol kaybıdır; model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanmasıdır." diye konuştu.

Bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getiren Amodei, "Kötü yönetilmesi halinde yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum." şeklinde konuştu.

Yapay zeka modellerinin risklere karşı test edilmesi için ortak standartların belirlenmesini isteyen Anthropic CEO'su Amodei, "Bunun bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik sorunu olduğuna inanıyorum. Bu odadaki insanların tüm farklılıklarına rağmen, aynı anda bize sunulan bu küresel fırsat ve küresel tehditle yüzleşmek için bu farklılıkları bir kenara bırakmalıyız. Hiçbir lider, hiçbir şirket ve hiçbir ulus bunu tek başına başaramaz." değerlendirmesini yaptı.

Hugging Face Üst Yöneticisi Clement Delangue ise otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyaya açık şekilde ilk kez duyuran şirket olarak bu saldırıdan çıkardıkları dersleri anlattı. Yapay zekada siber güvenlik tehditlerini daha iyi anlamak ve bu tehditleri azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyleyen Delangue, yapay zekanın kapasitesinin, kaynaklarının ve kontrolünün birkaç kişinin elinde yoğunlaşması yerine bunun dağıtılmasının büyük bir ihtiyaç haline geldiğini vurguladı.

Öte yandan toplantıda konuşan Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios, ABD'nin, "süper yapay zekaya" ilişkin küresel düzenleyici mekanizma oluşturulmasına karşı olduğunu belirtti.

"ABD, süper zekayı kontrol etmeyi amaçlayan küreselci bir sistem oluşturulmasına yönelik her türlü girişimi tamamen reddetmektedir." ifadesini kullanan Kratsios, "uluslararası diyaloğun küresel yönetişime doğru sürüklenmesine izin verilemeyeceğini" söyledi.

Küresel bir düzenleyici çerçeve yerine ülkelerin bu teknolojileri anlama ve kullanma konusunda kendi düzenlemelerini oluşturması gerektiğini belirten Kratsios, "ABD halkının temsilcileri, ABD halkı adına yasa ve düzenlemeler yapacak. Siz de kendi halkınız için aynısını yapmalısınız." ifadelerini kullandı. Michael Kratsios, yapay zekanın potansiyelinden yararlanılabilmesi için "egemen altyapı ve ulusal kapasite üzerine inşa edilmiş açık ve işbirliğine dayalı bir ekosisteme" ihtiyaç duyulduğunu vurguladı.