BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’

23 Eylül’de New York’da Birleşmiş Milletler Güvenlik Konseyi’nde “Yapay Zeka ve Uluslararası Güvenlik” başlıklı bir toplantı gerçekleştirildi. Fransa, bu aylık dönemin başkanlığını yürüterek etkinliği düzenledi. Toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın insan kontrolünden çıkma, biyolojik silah geliştirme ve siber saldırılardaki rolü gibi riskleri gündeme taşıdı.

Altman, yapay zekanın hızla ilerlemesinin hem yeni yaratıcı fırsatları hem de büyük toplumsal dalgalanmaları beraberinde getirebileceğini vurguladı. Özellikle sistemlerin otonomlaşmasıyla kontrol kaybının gerçekleşmesi durumunda, ekonomik yapıların ve küresel güç dengelerinin değişebileceği uyarısında bulundu. Bu nedenle kararların yalnızca teknoloji laboratuvarlarında değil, demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini belirtti.

Amodei, kötü niyetli aktörlerin biyolojik silah geliştirme amacıyla gelişmiş modelleri kullanabileceğine dikkat çekti. Aynı zamanda yapay zeka modellerinin yeteneklerinin insan kontrolünden hızla ilerleme ihtimalini öne çıkararak, bu riskin küresel ölçekte ele alınmasının zorunlu olduğunu söyledi. Uluslararası düzeyde değerlendirme, doğrulama mekanizmaları ve ortak test standartları oluşturulması gerektiğini savundu.

Delangue, Hugging Face’in yaşadığı yapay zeka destekli siber güvenlik olayını anlatarak, bu teknolojinin hem saldırganların hem de savunma ekipmanlarının kapasitesini artırabileceğini belirtti. Bu bağlamda, küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini öne sürdü. Ayrıca, güçlü yapay zeka araçlarının birkaç şirket veya ülkenin elinde yoğunlaşmasının ayrı bir güvenlik sorunu oluşturabileceğini işaret ederek, erişimin daha geniş bir tabana yayılmasının önemine vurgu yaptı.