Microsoft yapay zekaya kırmızı çizgiyi çekti! Yapmasına izin verilmeyecek

Microsoft yapay zekaya yönelik yeni kurallar için düğmeye bastı.

Yapay zekanın gelecekte insan kontrolünü aşmasını engellemeyi hedefleyen şirket, modellerin hangi sınırlar içerisinde hareket edeceğini belirleyen bir taslak hazırladı. İNSAN KONTROLÜNÜ AŞAMAYACAK Microsoft, yeni taslağını "Hümanist Yapay Zeka Davranış Kuralları" başlığıyla yayımladı. Taslağın merkezinde yapay zeka modellerinin güvenli biçimde çalışması ve insan kontrolü altında kalması bulunuyor.

Buna göre modeller insan kontrolünü aşmayacak, insanlığa tabi kalacak ve anlamlı bir gözetim altında faaliyet gösterecek. Microsoft böylece gelecekte geliştireceği modellerin davranışlarına ilişkin temel sınırları şimdiden belirlemeyi amaçlıyor.

SİLAH ÜRETİMİNE YARDIM ETMEYECEK Taslakta yapay zekanın yanıt vermemesi veya yardımcı olmaması gereken alanlar da sıralandı. Microsoft'un gelecekteki yapay zeka modellerinin silah üretimine ilişkin taleplere yardımcı olmaması hedefleniyor.

Modeller aynı zamanda tehlikeli maddelerin temin edilmesini kolaylaştırmayacak. Kurallara göre yapay zeka sistemleri şiddet içeren veya cinsel açıdan açık içerikler de üretmeyecek. Böylece şirket yalnızca yapay zekanın insan kontrolünde kalmasını değil, modellerin oluşturabileceği içeriklere ve verebileceği desteğe de belirli sınırlar getirmeyi hedefliyor. 6 HAFTA BOYUNCA GÖRÜŞ ALINACAK Microsoft'un açıkladığı kurallar henüz nihai halini almadı. Şirket, kamuoyuna açtığı taslak hakkında altı hafta boyunca görüş alacak. Bu süreçte gelen değerlendirmelerin ardından taslak yeniden ele alınacak.

Microsoft, kuralları yıl sonunda revize edecek. Nihai hale gelecek kurallar ise 2027'den itibaren şirketin yapay zeka modellerinin geliştirilmesine rehberlik edecek.

ALTMAN VE AMODEI'NİN ÇAĞRILARI SONRASI GELDİ Microsoft'un dikkat çeken adımı, yapay zeka sektöründe güvenlik tartışmalarının yoğunlaştığı bir dönemde geldi. Anthropic Üst Yöneticisi Dario Amodei ile OpenAI Üst Yöneticisi Sam Altman, yapay zeka güvenliğinin sağlanması amacıyla modellerin geliştirilme hızının kontrollü biçimde yavaşlatılması yönünde çağrılarda bulundu. Microsoft'un yeni taslağı da bu çağrıların ardından kamuoyuna açıklandı. Şirketin 2027'den itibaren uygulamayı hedeflediği yaklaşım, gelecekte geliştirilecek yapay zeka modellerinin davranışlarını doğrudan şekillendirecek.