Tehlikeli Yapay Zekâ Sistemleri Sınırlandırılabilir: Meta’dan Kritik Güvenlik Hamlesi

TİGRİS HABER - Şirketin yayımladığı İleri Düzey Yapay Zekâ Çerçevesi (Frontier AI Framework), hangi senaryolarda yüksek yetenekli yapay zekâ sistemlerinin paylaşılmayabileceğini ve geliştirilmesinin sınırlandırılacağını ortaya koyuyor.

Yüksek Riskli ve Kritik Riskli Sistemler: Neler Değişecek?

Meta’nın çerçevesinde, yapay zekâ sistemleri iki kategoriye ayrılıyor:

• Yüksek Riskli Sistemler: Belirli güvenlik önlemleriyle kontrollü hale getirilebilen yapay zekâ uygulamaları.

• Kritik Riskli Sistemler: Felaketle sonuçlanabilecek tehlikeler barındırdığı gerekçesiyle, özellikle ileri düzey siber saldırılar ve biyolojik silahların yayılmasına neden olabilecek uygulamalar. Bu tür sistemlerin geliştirilmesi durdurulacak ve ek güvenlik önlemleri uygulanacak.

  

Meta, sistemlerin tehlike düzeyini belirlerken iç ve dış uzman görüşlerine başvuruyor; ancak, yapay zekâ güvenliğine dair kesin bir ölçüm standardının henüz mevcut olmadığını da kabul ediyor.

Yapay Zekâ Açık Kaynaklı mı Olacak?

Meta CEO’su Mark Zuckerberg, Facebook üzerinden 2025 yılına yönelik yapay zekâ gelişim beklentilerini paylaşırken, yapay zekâ sistemlerinin açık kaynaklı olması gerektiğini savundu. Ancak, şirketin benimsediği strateji tamamen açık kaynaklı bir sistemle ilerleyecekleri anlamına gelmiyor. Daha önce, Meta’nın Llama adlı yapay zekâ modellerinin en az bir ABD karşıtı aktör tarafından savunma amaçlı sohbet botu geliştirmek için kullanıldığı belirlenmişti.

Güvenlik Önlemleri ve Geleceğe Yönelik Strateji

Meta’nın bu adımı, siber güvenlik, kimyasal ve biyolojik tehditlere karşı geliştirilen yapay zekâ sistemlerinin denetim altında tutulmasını hedefliyor. Şirket, yapay zekâ teknolojisinin geniş kitlelere ulaşmasını desteklerken, aynı zamanda yüksek ve kritik risk taşıyan uygulamaların oluşturulması durumunda gelişimini sınırlayarak, küresel güvenliği ön planda tutmayı amaçlıyor.