Anthropic’in kurucu ortağı: Yapay zeka sadece teknoloji şirketlerine bırakılamaz

Olah, Vatikan Devlet Başkanı Papa 14. Leo’nun, yapay zeka ve gelişen teknolojiler karşısında insanın, insanlık onurunun korunmasına yönelik ilkeler içeren ve Katolik Kilisesinin bu konudaki yaklaşımını ortaya koyan “Magnifica Humanitas (Muhteşem İnsanlık)” adlı papalık belgesini yayınlamasının ardından değerlendirmelerde bulundu.

Genelgenin sunumuna katılan yapay zeka şirketi Anthropic’in kurucu ortağı Olah, yapay zekaya ilişkin gelişmelerin yalnızca bilgisayar mühendisleri ve uzmanlar tarafından ele alınmasının yeterli olmayacağını vurguladı.

Olah, “Birçok kişi, yapay zekaya dair meselelerin sadece mühendisler tarafından değerlendirilmesinin en doğru yaklaşım olduğunu düşünebilir ancak bu yanlış. Yapay zekanın ortaya çıkardığı sorular, araştırma camiasının sınırlarını aşıyor.” ifadelerini kullandı.

Yapay zeka sistemlerinin bir köprü ya da uçak gibi tamamen insan kontrolünde tasarlanmış yapılar olmadığını belirten Olah, yapay zekanın mühendislerin sınırlarını aştığını kaydetti.

Bu sistemlerin insan sözleri ve düşüncelerinden beslendiğini dile getiren Olah, yapay zekanın onu geliştirenler için bile gizemini koruduğunu söyledi.

Olah, bu durumun bilgisayar mühendislerinin sınırlarını aşan etik ve toplumsal soruları beraberinde getirdiğine dikkati çekti.

Yapay zeka çalışmalarının büyük ölçüde birkaç zengin ülkede yoğunlaştığını kaydeden Olah, “Bu teknolojinin kazanımlarının tüm dünyayla adil şekilde paylaşılmasını sağlayacak bir mekanizmamız henüz yok.” dedi.

Olah, dini topluluklar, akademisyenler, hükümetler, sivil toplum kuruluşları ve tüm insanların yapay zekayı daha yakından incelemesi gerektiğini belirtti.

Papa 14. Leo yapay zeka genelgesi yayınlamıştı

Papa 14. Leo, daha önce sıkça uyarılarda bulunduğu yapay zeka ve gelişen teknolojiler üzerine yazdığı papalık dönemindeki ilk genelgesini törenle kamuoyuna duyurmuştu. Papa, genelgenin sunumuna katılan yapay zeka şirketi Anthropic’in kurucu ortağı Christopher Olah’a özel olarak teşekkür etmişti.

Genelgede, yapay zeka mekanizmalarının birkaç kişinin elinde toplanmaması gerektiğinin altı çizilirken, yapay zeka üzerine çalışan büyük teknoloji şirketlerinin rekabetlerini yavaşlatması çağrısında bulunulmuştu.

Papa, “Yapay zeka artık hayatımızın birçok alanına dokunuyor ve insan topluluklarının birlikte yaşamını şekillendiren kararları etkiliyor. Aynı zamanda savaşların yürütülme biçimini de dramatik şekilde değiştiriyor.” diye konuştu. Papa, insan kontrolünün ötesine geçen otonom silah sistemleriyle algoritmalara önyargılı ve temelsiz bilgilerin sızdırılmasının ve de insanların bilgiye erişiminin engellenmesinin kaygı verici olduğunu belirtti.

Yapay zekanın dünyayı bitmek bilmeyen bir savaşa sürükleme riski olduğuna işaret edilen genelgede, devletlerin ve uluslararası kuruluşların, insan yaşamlarını etkileyen yapay zeka konusundaki gelişmelerle ilgili adil kurallar ve etkili korumalar sağlamakla yükümlü olduğu ifade edilmişti. Genelgede, yapay zekanın insanlık onurunun sorumluluğuna emanet edilen bir araç olduğu, silahsızlandırılması gerektiği vurgulanmıştı.

“Güvenli yapay zeka” yaklaşımıyla öne çıkan yapay zeka şirketi Anthropic, farklı tartışmaların odağında bulunuyor.

ABD Savunma Bakanlığı (Pentagon), Anthropic şirketinin bir yapay zeka modeli olan “Claude”u askeri tam otonom silah sistemleri ve kitlesel iç gözetimde sınırsız olarak kullanmak istemesine şirketin izin vermemesi üzerine, ilişkiyi feshetme tehdidinde bulunmuştu.

Yargıya taşınan tartışmada Claude’u sınırsız bir şekilde kullanmak isteyen Pentagon, Anthropic’i “ulusal güvenlik riski” ilan edip federal kurumlarda yasaklamıştı.