Microsoft, geliştirdiği yapay zeka sistemlerinin hangi sınırlar içinde hareket etmesi gerektiğini tanımlayan taslak bir şirket içi anayasa hazırladı. Metnin temel ilkesi, insanın yapay zekadan daha önemli olduğu düşüncesine dayanıyor. Bu çerçevede bir sistemin düzeltmeye veya kapatılmaya karşı koyması, anlaşılmaz davranması ya da sorumluluğu insandan devralmaya çalışması başarısızlık sayılıyor.
Şirket, yaklaşık beş-altı aydır üzerinde çalıştığı kuralları ürün geliştirme ve güvenlik kararlarında ortak bir zemin olarak kullanmayı planlıyor. Taslak, yapay zekanın kullanıcıyla açık ve anlaşılır biçimde iletişim kurmasını istiyor. Ayrıca sistemin kendi sınırlarını saklamaması, emin olmadığı noktaları belirtmesi ve insan tarafından verilen yön değişikliğine uyması gerekiyor.
Microsoft’un paylaştığı yaklaşıma göre düzeltme ve kapatma komutları, pazarlığa açık tercihler olarak görülmüyor. Böylece şirket, daha özerk çalışan ajanlar yaygınlaşırken nihai yetkinin insanda kalacağını metne bağlıyor. Satya Nadella da insanlara yardımcı olmayan veya insan denetiminde kalmayan bir yapay zekanın geliştirmeye değmeyeceğini söylüyor.
Bu ifade, şirketin güvenliği yalnızca zararlı içerik filtreleriyle sınırlamadığını gösteriyor. Microsoft, kararın kimde kaldığını, sistemin nasıl itiraz edebildiğini ve bir hata görüldüğünde nasıl durdurulacağını da güvenlik tasarımının parçası sayıyor. Dolayısıyla anayasa, ürün özelliklerinden önce geliştiricilerin izleyeceği davranış çizgisini tarif ediyor.
Bununla birlikte taslak metin tek başına teknik güvence oluşturmuyor. Kuralların eğitim verisine, model değerlendirmelerine ve ürün içindeki izin sistemlerine dönüştürülmesi gerekiyor. Ayrıca şirketin bu … Microsoft yapay zeka için insan odaklı bir anayasa hazırladı haberi ilk önce Teknoblog üzerinde yayımlandı.
