Anthropic, şirketin en gelişmiş iki yapay zeka modeline küresel erişimi devre dışı bırakmasına yol açan yapay zeka güvenliği konusundaki yeni bir anlaşmazlığı çözmek amacıyla ABD'de Donald Trump yönetimiyle görüşmeler yürütüyor. Bloomberg'e konuşan bir kaynağa göre Anthropic’in üst düzey teknik personeli pazartesi günü ABD Ticaret Bakanlığı yetkilileriyle bir araya gelerek hükümet tarafından dile getirilen ulusal güvenlik endişelerini görüştü. Görüşmelere yönetimden hangi yetkililerin katıldığı ise hemen netleşmedi. Anthropic sözcüsü, görüşmenin ardından yaptığı açıklamada her iki tarafın da bir çözüme ulaşmak için hızlı şekilde çalıştığını söyledi.
Görüşmeler, Trump yönetiminin birkaç gün önce Anthropic’e şirketin ileri düzey Fable 5 ve Mythos 5 modellerine ABD'de vatandaşı olmayanların erişimini durdurması talimatını vermesinin ardından başladı. Şirket sözcüsüne göre o tarihten bu yana Anthropic temsilcileri belirli güvenlik meseleleri hakkında ABD’li yetkililerle çok sayıda çevrimiçi toplantı yaptı. ABD Ticaret Bakanlığı tarafından cuma günü öğleden sonra Anthropic’e gönderilen talimat, ABD hükümetinin bugüne kadar bir yapay zeka girişiminin faaliyetlerine yönelik en önemli müdahalesini temsil ediyor. Bu durum, son değerlemesi 900 milyar doların üzerine çıkan ve birkaç hafta önce halka arz için gizli başvuruda bulunan Anthropic açısından yeni bir zorluk oluşturuyor.
Anthropic cuma gecesi internet sitesinde yayımladığı bir gönderide, iki modele erişimi devre dışı bırakarak ABD’nin talimatına uyduğunu açıkladı. Şirket, ABD hükümetinin bu kararı, yakın zamanda yayımlanan ve Anthropic’in siber güvenlik görevlerini yerine getirmesini engellediği Mythos sürümü olan Fable 5’in güvenlik önlemlerinin aşılmasının mümkün olduğunun ortaya çıkmasının ardından aldığını düşündüğünü belirtti.
"Gerekçenin doğruluğuna katılmıyoruz"
Anthropic açıklamasında şu ifadeleri kullandı: “Dar kapsamlı olası bir sızma yönteminin keşfedilmesinin, yüz milyonlarca insana sunulmuş ticari bir modelin geri çekilmesi için gerekçe oluşturduğu görüşüne katılmıyoruz. Bu standart sektör genelinde uygulanacak olsaydı, bunun tüm öncü model sağlayıcılarının yeni model dağıtımlarını fiilen durduracağına inanıyoruz.”
Uzun süredir kendisini daha sorumlu bir yapay zeka geliştiricisi olarak konumlandıran özel sermayeli Anthropic, Mythos modelini ilk olarak nisan ayında çok sınırlı sayıdaki şirket ve kuruma sunmuştu. Şirket, modelin siber güvenlik açıklarını bulma kabiliyetinin onu daha geniş çapta dağıtmak için fazla riskli hale getirdiği uyarısında bulunmuştu. Geçen hafta şirket, Mythos sınıfındaki modelinin kamuya açık ilk sürümü olarak Fable 5’i yayımladı. Ancak modelin tüm siber yeteneklerini sınırlamayı amaçlayan güvenlik önlemleri de ekledi.
Cornell Üniversitesi Yapay Zeka Stratejisi ve İnovasyonu CEO'su Ayham Boucher, tartışmanın Anthropic’in sadece “güvenlik önlemlerini düzeltmesi” ve ardından Fable 5 yasağının kaldırılması yönünde basit bir talep gibi sunulduğunu, ancak bunun son derece teknik bir problemin çözümündeki zorlukları hafife aldığını söylüyor. Boucher, “Bunu ‘güvenlik önlemlerini düzeltme’ talebi olarak tanımlamak, sorunu olduğundan çok daha basit gösteriyor. Bu yaklaşım, model zayıflıklarının çözülmüş teknik bir problem olduğunu ve Anthropic’in yalnızca güvenlik önlemlerini yanlış uyguladığını varsayıyor. Açıklara karşı direnç sağlamak, sıradan bir yazılım hatasını yamamak gibi değildir" dedi.
Trump yönetiminin yapay zeka politikası
Anthropic’in Mythos hakkındaki açıklamaları, Trump yönetiminin yapay zeka politikası çalışmalarını hızlandırmasına yardımcı oldu. Bu süreç, Donald Trump’ın bu ayın başlarında yayımladığı ve ileri düzey yapay zeka modellerinin gönüllü olarak incelenmesini öngören başkanlık kararnamesiyle sonuçlandı. Kararnamede açıkça, hiçbir hükmün zorunlu bir lisanslama rejimi oluşturduğu şeklinde yorumlanmaması gerektiği belirtiliyordu.
ABD Ticaret Bakanlığı’nın cuma günü Anthropic’e yabancı uyrukluların erişimini durdurması yönündeki talimatı, yönetimin politikalarına uyum sağlamaya çalışan şirketler ve müttefik hükümetler açısından yeni bir belirsizlik düzeyi yarattı. Kanada merkezli yapay zeka geliştiricisi Cohere Inc.’in Yapay Zeka Direktörü Joelle Pineau, “Açıkçası son birkaç gündeki gelişmeler sektör genelindeki diğer oyuncular için büyük bir uyarı niteliğinde,” dedi. Pineau, “Birkaç gün önce sektörün en yetenekli modellerinden bazıları olarak tanıtılan modellerin artık erişilebilir olmaması, teknolojiye erişim konusunda büyük dalgalanmalar yaşanabileceği anlamına geliyor. Bu da şirketler açısından ciddi bir endişe kaynağı olmak zorunda" ifadelerini kullandı.
Bu anlaşmazlık, yönetim ile şirket arasındaki son çatışmayı temsil ediyor. Anthropic, yapay zeka araçlarının askeri kullanımına yönelik olarak talep ettiği ek güvenlik önlemleri nedeniyle aylardır Pentagon ile bir anlaşmazlık içerisindeydi. Sözleşme görüşmelerinin başarısızlıkla sonuçlanmasının ardından ABD Savunma Bakanlığı mart ayında şirketi tedarik zinciri riski olarak ilan etti ve silahlı kuvvetler için başka yapay zeka sağlayıcıları aramaya yöneldi.