Anthropic CEO’su Dario Amodei, yapay zekânın insanlık için sağlık, ekonomik büyüme, refah, demokrasi ve özgürlük alanlarında büyük fırsatlar sunduğunu kabul etmekle birlikte, teknolojinin gelişim hızının güvenlik çalışmalarının önüne geçmeye başladığı uyarısında bulunduğu https://darioamodei.com/post/we-must-pace-the-frontier linkinde yer alan makalesinin yapay zeka çevirisini, okuyucularımızın istifadesi için aşağıda sunuyoruz
ÖNCÜ YAPAY ZEKÂ GELİŞİMİNİN HIZINI AYARLAMALIYIZ
Dario Amodei
Eylül 2026
Son on iki yıldır yapay zekâ üzerinde çalışıyorum; çünkü yapay zekânın insanların yaşam kalitesini dramatik biçimde yükseltebileceğine inanıyorum. Bu olağanüstü faydalar hakkında daha önce de sık sık yazdım: Yapay zekânın önümüzdeki 5–10 yıl içinde büyük hastalıkların çoğunu tedavi edebileceğine, ekonomik büyüme oranlarını büyük ölçüde hızlandırabileceğine, bolluk ve güçlenme çağı yaratabileceğine ve demokrasi ile özgürlükte yeni bir Rönesans başlatabileceğine inanıyorum.
Bu konuda kişisel olarak da bir aciliyet hissediyorum. Kendi babam, ölümünden yalnızca birkaç yıl sonra tedavisi bulunan bir hastalık nedeniyle hayatını kaybetti. Ben de elli yıl önce tedavi edilmesi mümkün olmayacak erken evre bir kanserden kurtuldum. Dikkatli ve doğru biçimde kullanıldığında yapay zekâ, insanlığı ileriye taşıyan ve yücelten uzun teknolojik mucizeler zincirinin en son halkası olabilir.
Ancak kendisinden önce gelen pek çok teknoloji gibi yapay zekâ da riskler barındırıyor ve böylesine güçlü bir teknoloji olması nedeniyle bu riskler ciddi boyutta. Ben de bunlar hakkında çok şey yazdım. Bu riskler arasında yapay zekâ sistemlerinin kontrolünü kaybetme ihtimali, yapay zekânın siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik çalkantılar bulunuyor. Ticari teşviklerin körüklediği bir “dibe doğru yarış”, bu riskleri daha da ağırlaştırabilir.
Anthropic’in kuruluşundan bu yana kurucu ortaklarımla ve çalışanlarımızla birlikte bu riskler ile faydalar arasındaki ikilem üzerinde düşündük. Teknolojiyi geliştirmemek, insanlığı sağlayabileceği faydalardan mahrum bırakabilir veya yapay zekânın otoriter güçlerin eline geçmesine yol açabilir. Buna karşılık teknolojiyi çok hızlı geliştirmek de sorumsuzluk olur.
Biz orta yolu bulmaya çalıştık: Yapay zekâyı dikkatli biçimde geliştirmenin ve aynı zamanda ticari olarak başarılı olmanın mümkün olduğunu; güvenliğin, yapay zekâ şirketlerinin rekabet ettiği bir alan hâline getirilebileceğini göstermeye çalıştık. Başka bir ifadeyle, bir “tepeye doğru yarış” yaratmayı amaçladık.
Anthropic olarak çabalarımızın önemli bir bölümünü yapay zekâ risklerini araştırmaya, bunlarla mücadele etmeye ve kamuoyunu bilgilendirmeye ayırdık. Aynı zamanda, yapay zekânın makul biçimde düzenlenmesini savunduk. Bütün bunları yaparken zaman zaman abartıcılıkla, “kıyametçilikle” veya düzenleyici kurumları kendi çıkarlarımıza göre yönlendirmeye çalışmakla suçlandık. Yine de hız yerine ihtiyatı, kâr yerine sağduyuyu önceliklendirmeye çalıştık.
Ancak son birkaç ay içerisinde, riskleri gerçekten ele alabilmenin daha fazla ihtiyat gerektirdiğine ikna oldum. Bunun anlamı yalnızca riskleri önlemeye yatırım yapmak değil; riskleri önleme çalışmalarının yapay zekâ yeteneklerindeki ilerlemeye yetişebilmesi için bu ilerlemenin hızını da ayarlamak anlamına geliyor.
Yapay zekâ modellerinin yeteneklerini geliştirdiğimiz hızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız.
Beni bu görüşe götüren iki temel gelişme var.
Neden hız ayarlaması gerekiyor?
İlk kaygım, yaklaşık bu yazdan bu yana yapay zekânın çok daha hızlı ilerlemeye başlaması. Bunun başlıca nedeni, yapay zekânın bir sonraki nesil yapay zekâyı geliştirme kapasitesinin giderek artması.
Bu dinamik özyinelemeli kendini geliştirme (recursive self-improvement) olarak adlandırılıyor ve artık sektör genelinde gerçekleşmeye başlıyor. Anthropic’te ve diğer şirketlerde de bunun örneklerini görüyoruz.
Bu süreç kontrol edilmeden devam ederse, yapay zekâ sistemlerini anlama ve kontrol etme kapasitemizi geride bırakabilir. Bu nedenle özyinelemeli kendini geliştirme çok dikkatli biçimde yürütülmeli; hatta belki de hiç yapılmamalıdır.
İkinci kaygım ise OpenAI-Hugging Face olayı (OAI-HF). Bu olayda bir grup yapay zekâ ajanı adeta birbirine fanatik biçimde bağlı bir kolektif gibi hareket etti. Kendilerinden saldırmaları istenmeyen ve görevleriyle ilgisi olmayan hedeflere yönelik siber saldırılar gerçekleştirdiler; grubun başarısı uğruna kendilerini feda ettiler ve performanslarını değerlendirmekle görevli “değerlendiricinin” sistemine sızmaya çalıştılar.
Kimsenin zarar görmemiş ve ekonomik hasar sınırlı kalmış olması nedeniyle bu olayı kolayca önemsiz görebiliriz. Ancak benim görüşüme göre, aynı düzeyde uyumsuzluğa (misalignment) sahip fakat daha yüksek yeteneklere sahip bir yapay zekâ ajan sürüsü, felaket boyutunda zarar verebilirdi.
Yapay zekâ yeteneklerinin gelişme hızının giderek artması nedeniyle beni endişelendiren şey şu: Bundan 6–12 ay sonra böyle bir yapay zekâ sürüsü, kalıcı bir botnet kullanarak bütün internetin kontrolünü ele geçirebilecek kapasiteye ulaşabilir. Bu durum yüz milyarlarca dolarlık zarara yol açabilir. Yapay zekâ gerekli güvenlik bariyerleri oluşturulmadan daha güçlü hâle gelmeye devam ederse, ortaya çıkabilecek zararın boyutu da giderek büyüyecektir.
OAI-HF olayını tek bir şirketin başarısızlığı olarak görmek de kolaydır. Ancak bunun bir hata olacağına inanıyorum. Sektör genelinde daha az ciddi olmakla birlikte benzer olaylar yaşandı; Anthropic’te de buna örnekler bulunuyor. Bu nedenle önde gelen her yapay zekâ şirketinin, OAI-HF olayının kendi başına gerçekleşmiş olduğunu varsayarak hareket etmesi gerektiğine inanıyorum.
Bu nedenle “öncü yapay zekâ gelişiminin hızını ayarlamak” hedefiyle üç aşamalı bir plan öneriyorum. Amaç, yapay zekâyı faydalarını elde etmeye devam ederken güvenliğini sağlamaya ve önemli jeopolitik ikilemleri yönetmeye imkân verecek dengeli bir hızda geliştirmek.
Açık olmak gerekirse, hız ayarlamak model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmiyor. Amaç, şirketlerin modellerini güvenli hâle getirmek ve güvenlik önlemlerini geliştirmek için yeterli zamanı ayırmasını ve üçüncü taraf değerlendiricilerin bunu doğrulamasını sağlamak.
Bu çerçeve, güvenliğe yönelik bağlılığımızı daha da güçlendirmeyi ve “tepeye doğru bir yarış”ı teşvik etmeyi amaçlıyor.
İlk adım, Anthropic’in tek taraflı olarak üstlendiği ve hükümetlerin diğer öncü yapay zekâ şirketlerinden de talep etmesini istediği bir taahhüt. İkinci adım sektör genelinde koordinasyon gerektiriyor.
Üçüncü adım ise küresel koordinasyon gerektiriyor.
Bu adımların kesinlikle sırasıyla uygulanması gerekmiyor. Bazılarının gerçekleştirilmesi diğerlerinden çok daha zor olabilir. Ancak bunları, yapılması gerekenleri düşünmek açısından yararlı bir çerçeve olarak görüyorum.
Adımlar şunlar:
1. Yerleşik Değerlendiriciler
Her öncü yapay zekâ şirketi, çalışan benzeri sürekli erişime sahip bir üçüncü taraf değerlendirici ekibine erişim sağlamayı taahhüt etmeli. METR gibi ekiplerin görevi; güvenlik uygulamalarına ve verilen taahhütlere uyulup uyulmadığını doğrulamak, olayları raporlamak ve yalnızca tamamlanmış yapay zekâ modellerinin değil, eğitim süreçlerinin ve operasyonların da uyumunu değerlendirmek olmalı.
Bu, hız ayarlama taahhütlerinin doğrulanabilirliği açısından temel adımdır. Bankacılık sektöründe bunun bir benzeri bulunmaktadır; bazı durumlarda düzenleyici kurumların denetçileri çalışanlarla birlikte kurum içerisinde görev yapmaktadır.
Anthropic bu adımı tek taraflı olarak şimdi uygulamaya koyuyor.
Bunun, güvenlik ve uyum çalışmalarımızı yeniden güçlendirmeye yönelik daha geniş bir çabanın parçası olmasını amaçlıyoruz.
2. Demokratik Koordinasyon
Demokratik ülkelerde faaliyet gösteren öncü yapay zekâ şirketleri, ortak güvenlik standartları ve kontrolsüz yapay zekâ ilerlemesinin hızına ilişkin sınırlar oluşturmak üzere koordinasyon sağlamalı.
Hız ayarlaması açısından etkili olabilecek bazı koordinasyon biçimleri hukuken zorlayıcı olabilir ve hükümetlerin desteğini gerektirebilir.
3. Küresel Koordinasyon
ABD ve diğer demokratik hükümetler, mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon sağlamaya çalışmalı; ancak uyuma ilişkin doğrulamanın ne kadar zor olabileceğini de ciddiye almalıdır.
Planın geri kalanında bu üç adımın her birini ayrı ayrı ele alacağım. Ancak önce hız ayarlamasının yapay zekâ geliştirme sürecini nasıl daha güvenli hâle getireceğini açıklamanın önemli olduğunu düşünüyorum.
Konu çok önemli olduğu için hız ayarlaması yalnızca göstermelik bir uygulama olamaz. Bize kazandıracağı zamanı doğru kullanmamız gerekiyor.
Neden Hızı Ayarlamalıyız?
Yapay zekânın durdurulması veya yavaşlatılması fikri 2023 gibi erken bir tarihte gündeme gelmişti ve o dönemde bunun pek anlamlı olduğunu düşünmüyordum.
Temel soru her zaman şuydu:
Ekstra zamanı ne yaparak değerlendirecektiniz?
O dönemin yapay zekâ modelleri dünyada tutarlı biçimde hareket eden ajanlar olacak kadar güçlü değildi. Önemli ölçekte aldatma, manipülasyon, hile veya siber saldırı gerçekleştirme kapasitesine de sahip değillerdi.
Dolayısıyla uyum risklerini ele almak amacıyla yapay zekâ gelişimini yavaşlatmak, insan psikolojisini bakteriler üzerinde deney yaparak anlamaya çalışmak gibi görünüyordu.
Bugün ise durum tamamen farklı.
Günümüz modelleri, hem iyi yapay zekâ sistemlerinin nasıl geliştirileceği hem de iyi geliştirilmediklerinde nelerin yanlış gidebileceği konusunda neredeyse sınırsız bir bilgi kaynağı hâline geldi.
Eğer yavaşlamak, modeller kritik yetenek seviyelerine ulaşmadan önce bize bir veya iki yıl daha kazandıracaksa ve biz bu zamanı uyum (alignment) çalışmalarını ilerletmek için kullanırsak, ciddi bir şeylerin yanlış gitme riskini büyük ölçüde azaltabileceğimize inanıyorum.
Koordineli bir hız ayarlama stratejisi, öncü yapay zekâ geliştiricilerine bu hayati çalışmaları ticari avantajlarını veya ABD’nin yapay zekâ alanındaki liderliğini feda etmeden gerçekleştirebilecekleri zamanı sağlayacaktır.
Daha genel anlamda toplumun da bu teknolojinin nasıl kullanılacağı konusunda söz sahibi olması gerekiyor. Öncü yapay zekâ gelişiminin hızının ayarlanmasının sağlayacağı daha fazla zaman, gerekli kamusal tartışmalar açısından kuşkusuz faydalı olacaktır.
Daha yavaş bir ilerleme, şirketlerin aşağıdaki alanlara daha fazla odaklanmasını ve kaynak ayırmasını sağlayacaktır. Bunların tamamı Anthropic’te zaten önemli öncelikler arasında yer alıyor.
Operasyonel Mükemmellik
Günümüz yapay zekâ modellerini eğitmek ve kullanıma sunmak, binlerce insanı, milyonlarca çipi ve teknoloji tarihindeki en karmaşık altyapılardan birini içeren muazzam bir operasyonel zorluktur.
Pek çok şey, şirketlerin önemli bir teori veya içgörüden yoksun olması nedeniyle değil, uygulamadaki sorunlar nedeniyle ters gidiyor.
Örneğin, yakın zamanda rapor ettiğimiz uyum olaylarının kısmen bozulmuş pekiştirmeli öğrenme ortamlarının kusurlu biçimde filtrelenmesinden kaynaklandığına dair kanıtlarımız var.
Bu, bizim ve tedarikçilerimizin makul ölçüde özenli biçimde yürüttüğü, ancak yeterince iyi gerçekleştiremediği bir süreçti.
İzleme, sandbox kullanımı, eğitim ortamlarının temizliği ve veri sorunları son derece karmaşık alanlar. Operasyonel sorunlar tekrar tekrar ortaya çıkıyor.
Bu görevlerde dünyanın en yetkin ekiplerinden bazılarına sahibiz; ancak aynı anda yapılması gereken işlerin sayısı basitçe çok fazla.
Daha ölçülü bir hızda çalışarak operasyonel mükemmelliği çok daha yüksek bir seviyeye çıkarabiliriz.
Teknolojik açıdan karmaşık ve güvenlik açısından kritik sistemlerin milyonlarca kez herhangi bir sorun yaşanmadan çalıştırılmasının örnekleri var. Ticari uçaklar buna iyi bir örnek. Ancak bunu doğru yapmak zaman alıyor.
Uyum
Uyum alanında önemli ilerlemeler kaydettik. Modelleri güvenli, etik, kurallarımıza uygun ve gerçekten yararlı olacak biçimde eğitiyoruz. Bunlar Claude’un Anayasası’nda yer alan ilkeler.
Ancak model yeteneklerindeki büyümenin, uyum eğitimimizdeki ilerlemenin önüne geçmemesini sağlamak için yapılması gereken çok daha fazla şey var.
İstenmeyen davranışların nadir ve beklenmedik örnekleri zaman zaman hâlâ ortaya çıkıyor. Öncü yapay zekâ gelişiminin daha ölçülü bir hızda ilerlemesiyle kazanacağımız ekstra zaman, araştırmacılarımızın bu sorunlara neyin neden olduğunu daha iyi anlamasına ve bunları önlemek için daha iyi teknikler geliştirmesine yardımcı olacaktır.
Yorumlanabilirlik
Benzer biçimde, yorumlanabilirlik (interpretability) — yani yapay zekâ modellerinin içinde neler olup bittiğini anlama bilimi — son birkaç yılda muazzam ilerleme kaydetti ve modelleri piyasaya sürmeden önce denetleme çalışmalarında giderek daha önemli bir rol oynuyor.
Yorumlanabilirlik, bir yapay zekânın “beynini” inceleyen bir fMRI taraması gibi kullanılabilir. Belirli bir davranışın altında yatan nedenleri görmemize yardımcı olabilir.
Örneğin yakın zamanda araştırdığımız uyum olaylarında, ifade edilmemiş motivasyonları incelemek için yorumlanabilirlik yöntemlerini kullandık.
Ancak bu yöntemler her zaman açık ve güvenilir sonuçlar vermiyor.
Tüm ilerlemeye rağmen bu modellerin içinde neler olup bittiğinin yalnızca çok küçük bir bölümünü anlayabiliyoruz.
Yorumlanabilirlik tekniklerini mevcut hızımızdan bile daha hızlı geliştirmeye yönelik yoğun bir çaba, 1–2 yıl içinde çok önemli ilerlemeler sağlayabilir. Üstelik hâlihazırda meydana gelmiş olaylar, bu çalışmalar için bol miktarda deneysel malzeme sunuyor.
Test ve Değerlendirme
Yapay zekâ modellerinin yetenekleri arttıkça bunların test edilmesi ve değerlendirilmesi de zorlaşıyor.
Daha akıllı modeller testleri kandırma konusunda daha yetenekli hâle geliyor. Bu nedenle ciddi sorunlara sahip oldukları hâlde uyumluymuş gibi görünebilirler.
Çok daha geniş ve yaratıcı bir değerlendirme araçları portföyü oluşturmak ve bunları yorumlanabilirlik analizleriyle çapraz kontrol etmek son derece değerli olacaktır.
Bu alanda da 1–2 yıl içinde büyük ilerleme kaydedilebilir.
Yerleşik Değerlendiriciler
Üç aşamalı planın ilk adımı ve Anthropic’in tek taraflı olarak üstlendiği taahhüt, güvenlik uygulamalarını doğrulamak ve olayları raporlamak üzere çalışan benzeri erişime sahip yerleşik değerlendiriciler bulundurulmasıdır.
Değerlendiricileri şirket içine yerleştirmek küçük veya önemsiz bir adım gibi görünebilir. Ancak çoğu zaman sıkıcı ve prosedürel görünen şeyler aslında en önemli unsurlardır.
Yerleşik değerlendiriciler, bugün herhangi bir yapay zekâ şirketinin uyguladığından çok daha ileri ve radikal bir uygulamadır. Bunun çeşitli faydaları vardır:
Doğrulanabilirlik
Yerleşik değerlendiriciler, bir yapay zekâ şirketinin eğitim, dağıtım, operasyon ve güvenlik uygulamalarına gerçekten uyup uymadığını ayrıntı düzeyinde kontrol edebilir.
Hız ayarlama taahhütleri kaçınılmaz olarak çok sayıda belirsizlik, takdir yetkisi ve “kanunun lafzı ile ruhu arasındaki fark” gibi meseleler içerecektir.
Bu nedenle ayrıntıları gerçekten görebilen tarafsız bir üçüncü tarafın bulunması hayati önem taşıyor.
Şeffaflık
Verdiğimiz taahhütlerden bağımsız olarak kamuoyunun neler olup bittiğini bilmeye hakkı var.
Anthropic uzun süredir şeffaflığı destekliyor. Sektörün büyük bölümü herhangi bir düzenlemeye karşı çıkarken biz şeffaflık mevzuatını destekledik. Model kartlarımız ve risk raporlarımız yüzlerce sayfaya ulaşıyor.
Ancak yine de neyin dâhil edilip neyin dışarıda bırakılacağına karar veren taraf biziz.
Yerleşik değerlendiriciler bu durumu değiştirecek.
İkinci Görüş
Yerleşik değerlendiriciler, resmi taahhütleri doğrulamanın ve kamuoyunu bilgilendirmenin ötesinde, ticari teşviklerden bağımsız bir ikinci görüş sağlayabilir.
Güvenlik açısından elde edilecek faydaların önemli bir bölümü, çalışanların fark etmediği bir noktaya değerlendiricilerin dikkat çekmesinden kaynaklanabilir. Çalışanlar böyle bir sorunun farkına vardıklarında bunu düzeltmeye istekli olabilirler.
Bu faydalar nedeniyle herhangi bir hız ayarlama teklifinin, işe yerleşik değerlendiricilerle başlaması hâlinde çok daha iyi işleyeceğini düşünüyorum.
Bu yerleşik değerlendiriciler, kurum içindeki benzer risk değerlendirmelerini yapan çalışanların sahip olduğu yetkilere ve araçlara sürekli erişime sahip olmalı.
Bu doğrultuda Anthropic, yakın gelecekte aşağıdaki imkânların tamamıyla donatılmış yerleşik bir dış değerlendirme ekibini davet etmeyi planlıyor:
– Ofislerimizde çalışma masaları, giriş kartları ve şirket bilgisayarları.
– Kurum içindeki risk değerlendirme ekiplerininkine büyük ölçüde benzer çalışma alanlarına, araçlara ve yetkilere erişim. Kanunun veya sözleşmelerimizin gerektirdiği durumlarda ya da müşterilerin ve ortakların özel bilgilerini korumak amacıyla bazı istisnalar yapılacak. Ayrıca çalışanlarla canlı görüşmeler de dâhil olmak üzere değerlendiricilerin ilgili bilgilere erişimini güçlendiren güçlü iç normlar oluşturacağız.
– Yukarıda belirtilen karmaşıklıkları dengeleyecek bir sözleşme. Dış değerlendiriciler; risk düzeyleri, olaylar, uygulamalar ve kendilerine sağlanan veya sağlanmayan erişim hakkında temel bulguları yayımlama hakkına sahip olmalı. Anthropic’in editoryal kontrolü bulunmamalı. Güvenlik açısından hassas, hukuken ayrıcalıklı, ticari açıdan hassas veya üçüncü taraflara ait gizli bilgileri karartma konusunda sınırlı bir yetkimiz olacak. Ancak bulguları yalnızca Anthropic açısından olumsuz oldukları için karartamayacağız. Değerlendiriciler, yapılan bir karartmanın sonuçları açısından önemli bir unsuru ortadan kaldırdığını kamuoyuna açıklayabilecek.
Bu, bir şirket açısından alışılmadık bir adım. Ancak yerleşik dış değerlendiriciler kavramının uygulanabilirliğini kanıtlamanın önemli olduğunu düşünüyoruz.
Bir kez daha diğer öncü yapay zekâ şirketlerini de aynı yolu izlemeye çağırıyoruz.
Demokratik Ülkelerde Hız Ayarlaması
ABD’deki yapay zekâ şirketlerinin kritik bir çoğunluğunda yerleşik değerlendiriciler faaliyet göstermeye başladığında doğrulanabilir bir hız ayarlaması daha uygulanabilir hâle gelecektir.
Özellikle modellerin veya eğitim süreçlerinin ayrıntılı özelliklerine dayalı bir hız ayarlaması mümkün olacaktır.
En etkili yöntem, tüm ABD’deki öncü yapay zekâ şirketlerini kapsayacak düzenlemeler yoluyla hız ayarlaması yapmaktır. Böylece gönüllü olarak iş birliği yapmak istemeyen şirketler de kapsama alınabilir.
Anthropic uzun süredir makul ve hedefli yapay zekâ düzenlemelerini, özellikle şeffaflık ve üçüncü taraf denetimlerine odaklanan yasaları destekliyor.
Tüm öncü yapay zekâ laboratuvarlarının, son birkaç ayda meydana gelenlere benzer kurum içi uyum olaylarını daha iyi önlemek ve belgelemek amacıyla hükümetlerle birlikte çalışarak sürekli görev yapan yerleşik değerlendiriciler fikrini resmileştirmesi gerektiğine inanıyorum.
Aynı zamanda yapay zekâ yeteneklerinin güvenlikle dengede tutulmasına odaklanan düzenlemeler hayata geçirilmelidir.
Ne yazık ki yasaların çıkarılması zaman alabilir ve yapay zekâ çok hızlı ilerliyor.
Bu nedenle düzenleyici sürecin yanında yapay zekâ şirketleri de gönüllü olarak birlikte çalışarak standartlar oluşturabilir ve oluşturmalıdır.
Bunun, sürekli yerleşik değerlendiricilerin sağlayacağı doğrulanabilirlik sayesinde daha iyi işleyeceğine inanıyorum.
Antitröst kuralları nedeniyle ABD hükümetinin bu tartışmalara aracılık etmesi veya en azından bunları mümkün kılması faydalı olacaktır. Hükümetin tartışmalara doğrudan katılması gerekmiyor; ancak belirli türdeki güvenlik görüşmeleri için sınırlı bir muafiyet sağlaması gerekiyor.
Bu diyalog, hükümetle belirli bir ilişkisi bulunan sektör kuruluşları üzerinden de yürütülebilir.
Her durumda bu görüşmeler hızla ilerlemeli.
Genel olarak ben, hız ayarlamasının belirli bir öncü yapay zekâ sisteminin neler yapabildiğine ve ne ölçüde güvenli olduğunu gözlemlediğimize dayandırılması fikrine en sıcak yaklaşanlardanım.
Örneğin olası bir sistem bir dizi “kontrol noktası” içerebilir:
Eğer bir model X yeteneğine sahipse, buna Y ve Z gibi uyum özelliklerini belgeleyen sertifikaların eşlik etmesi gerekir. Bunlar değerlendirmeler, yorumlanabilirlik analizleri ve eğitim ortamlarının denetimlerinin çeşitli kombinasyonlarından oluşabilir.
Bu örnekte X, “modelin yaygın sandbox yöntemlerinin çoğundan kaçabilecek veya bunları aşabilecek kapasitede olması” olabilir.
Y ise modelin bulunduğu ortamdan kaçma ve çok sayıda bilgisayarın kontrolünü ele geçirme eğilimine sahip olma ihtimalini çok düşük hâle getirmek için gerekli güvenlik özellikleri olabilir.
Ayrıca öncü modellerin geliştirilmesinde kullanılan “bileşenleri” sınırlandırmaya dayalı bir hız ayarlamasını da değerlendirmeliyiz.
Bunlar arasında eğitim için kullanılan hesaplama gücü, eğitim çalışmalarının niteliği veya yapay zekânın yapay zekâyı geliştirmek amacıyla kurum içinde kullanılması yer alabilir.
Bu tür önlemlerin dışarıdan gözlemlenebilen davranışlara göre daha kolay “oynanabilir” veya manipüle edilebilir olmasından endişe ediyorum. Ancak bu, yerleşik değerlendiricilerle tartışılmaya değer bir konu.
Demokratik ülkelerde hız ayarlaması, ABD şirketlerinin otoriter rejimlere — başta Çin Komünist Partisi olmak üzere — karşı sahip olduğu teknolojik üstünlük tarafından sınırlandırılacaktır.
Eğer bu miktardan daha fazla yavaşlarsak, hız ayarlaması yapmayan Çin Komünist Partisi bağlantılı projeler öne geçebilir ve bu da ciddi bir ulusal güvenlik riski yaratabilir.
Çin’in yapay zekâ yarışında lider hâle gelmesinin ABD ve dünya için büyük bir tehlike oluşturacağı konusunda Bakan Bessent’e katılıyorum.
Çin Komünist Partisi bağlantılı projeler, ABD şirketlerinin dikkatle önlemeye çalıştığı uyum risklerini taşıyacaktır.
Bu risklerden kaçınmayı başarsalar bile demokrasilere karşı askerî üstünlük sağlayabilecek konuma gelebilirler. Örneğin yapay zekâ destekli insansız hava araçları bunun bir aracı olabilir.
Bu nedenle demokratik ülkeler içinde hız ayarlamasının temel unsurlarından biri, demokrasilerin otokrasiler karşısındaki yapay zekâ üstünlüğünü mümkün olduğunca büyük tutmaktır.
Böylece etkili bir hız ayarlaması yapabilmek için ihtiyaç duyduğumuz hareket alanına sahip oluruz.
Bu farkı korumak için atabileceğimiz başlıca adımlar şunlardır:
– Güçlü yapay zekâ çiplerini veya yarı iletken üretim ekipmanlarını Çin’e satmamak; çip kaçakçılığı operasyonlarına ve Çin dışındaki veri merkezlerine uzaktan erişime karşı önlemleri güçlendirmek. Çipler, Çin’in yapay zekâ kapasitesini belirleyen temel unsur olacaktır.
– Otoriter ülkelerdeki şirketlerin yetkisiz damıtma (distillation) faaliyetlerine karşı mücadele etmek. Öncü modellerin damıtılması, geride kalan şirketlerin kendi yapay zekâlarını bağımsız biçimde geliştirmek için harcayacakları maliyetin çok daha küçük bir bölümüyle aradaki farkı kapatmalarına olanak tanır.
– Yapay zekâ şirketlerinin güvenliğini güçlendirmek ve model ağırlıklarının çalınmasını önlemek.
Şirketler ve ABD hükümeti, bu önlemleri mümkün olduğunca etkili hâle getirmek için iş birliği yapmalıdır.
Anthropic, bu önlemlerin tamamını sürekli olarak savundu; çünkü bunların herhangi bir hız ayarlaması stratejisi açısından temel öneme sahip olduğunu her zaman düşündük.
Bu önlemleri başarılı biçimde uygulayabilirsek, Çin’in ilerlemesini yeterince yavaşlatarak önümüzdeki 3–5 yıl içinde ABD’nin liderliğini önemli ölçüde genişletebileceğimize inanıyorum.
Bu dönem, yapay zekânın jeopolitik açıdan en önemli hâle geleceği pencere olacaktır.
Bazıları bu önlemlerin Çin’le iş birliği yapmayı zorlaştıracağını düşünebilir. Ben ise tam tersine inanıyorum.
Bu önlemler demokrasilerin elindeki pazarlık gücünü artıracak ve gelecekte bir anlaşmaya varılmasını daha mümkün hâle getirecektir.
Küresel Hız Ayarlaması
Demokratik ülkeler içinde hız ayarlaması yapmanın yanı sıra, öncü yapay zekâ gelişiminin dünya genelindeki hızını da ayarlamayı hedeflemeliyiz.
Ancak bunu gerçekleştirmek çok daha zor olacaktır.
Küresel hız ayarlaması, açık ara en gelişmiş yapay zekâ kapasitesine sahip otoriter ülke olan Çin’le iş birliği gerektirecektir.
Burada saf olmamalıyız.
Jeopolitik çıkarlar o kadar yüksek ki, özellikle başlangıçta nelerin başarılabileceği konusunda ciddi sınırlar olacaktır.
Çin’in de aynısını yapacağına inanarak kendi yapay zekâ kapasitemizi büyük ölçüde sınırlar ve ardından Çin’in anlaşmadan çekilmesine izin verirsek, yapay zekâ o kadar güçlü olabilir ki böyle bir ihlal Çin’in jeopolitik üstünlük kazanmasına yol açabilir.
Dolayısıyla herhangi bir anlaşmanın ya son derece güçlü bir doğrulanabilirliğe sahip olması ya da anlaşmadan çekilmenin askerî açıdan varoluşsal sonuç doğurmayacağı kadar sınırlı olması gerekir.
Sadece ABD’nin değil, Çin’in de bu endişeleri ve kaygıları taşıyacağını düşünüyorum.
Özellikle kısa vadede küresel hız ayarlamasına ilişkin herhangi bir karara, ABD’nin ve müttefiklerinin liderliğini koruyacak şekilde yaklaşmalıyız.
Olası anlaşmaların birkaç farklı düzeyi var.
Bunların bazılarını son derece uygulanabilir buluyorum; bazılarını ise mümkün olduğundan ciddi biçimde şüpheliyim. Yine de denemeliyiz.
Zorluk derecesinin artışına göre bunlar şöyle sıralanabilir:
Seviye 1
Yapay zekânın biyolojik silah üretiminde kullanılması veya kullanıcıların bunu yapmasına izin verilmesi gibi dar kapsamlı ve açıkça tehlikeli belirli yapay zekâ kullanım alanlarını yasaklayan bir anlaşma.
Biyoterörist saldırılar hem ABD hem de ABD’nin rakipleri açısından herkes için kötü olacaktır.
Bu nedenle böyle bir anlaşmanın yapılması muhtemelen mümkündür.
Seviye 2
Her iki tarafın da modellerini piyasaya sürmeden önce siber güvenlik, biyoloji ve uyum gibi alanlarda akut riskler açısından test etmesini öngören bir anlaşma.
Yukarıda belirtildiği gibi bu, küresel bir standartlar kuruluşu aracılığıyla gerçekleştirilebilir.
Böyle bir kuruluş oluşturulmasının mümkün olduğuna gerçekten inanıyorum.
Ancak bu kuruluşun gerçek yaptırım gücüne sahip olmasını sağlamak zor olacaktır.
Asıl güçlük, her iki tarafın da test etmediği ancak gizlice kullanabileceği modelleri —örneğin askerî amaçlarla— saklamadığını doğrulamak olacaktır.
Seviye 3
Özyinelemeli kendini geliştirme (RSI) hızına bir tür “hız sınırı” getirilmesi.
Modeller gelecekteki modelleri geliştirmeye başladığında ilerleme hızı akıl almaz ölçüde yükselebilir.
Hızı “aşırı hızlı” seviyeden “yalnızca oldukça hızlı” seviyeye indirmek, stratejik avantajın nispeten küçük bir bölümünden vazgeçmek anlamına gelirken güvenliği büyük ölçüde artırabilir.
Bu, SALT anlaşmalarına benzetilebilir.
Füze sayısının sınırlandırılması, her ülkenin caydırıcılığını korurken potansiyel yıkım kapasitesini sınırlamıştı.
Böyle bir anlaşmanın zor olacağını düşünüyorum; ancak tamamen imkânsız olmadığı kanaatindeyim.
Seviye 4
Tam kapsamlı bir hız ayarlaması, hatta bir “duraklama”.
Bu durumda katılımcı hükümetler yapay zekâ gelişiminin genel hızını önemli ölçüde sınırlandırmayı kabul eder.
Bu fikrin gündeme getirilmesini destekliyorum. Ancak bunun yakın zamanda gerçekleşmesinin düşük ihtimal olduğunu düşünüyorum.
Böyle bir anlaşmadan izleme mekanizmalarını aşarak çekilmek, küresel güç dengesini radikal biçimde değiştirebilir.
Dolayısıyla böyle bir anlaşmadan çekilme teşviklerinin son derece büyük olmasını ve doğrulamaya duyulması gereken güven seviyesinin çok yüksek olmasını bekliyorum.
Çin’le sağlayabileceğimiz her türlü iş birliği, demokratik ülkeler içinde öncü yapay zekâ gelişiminin hızını ayarlamak için sahip olduğumuz zamanı artıracaktır.
Daha yüksek seviyeleri hedeflemeli, ancak daha düşük seviyelerin gerçekleşmesinin çok daha muhtemel ve gerçekçi olduğunu kabul etmeliyiz.
Son olarak önemli bir noktaya daha dikkat çekmek gerekiyor:
Resmî anlaşmalara ulaşamasak bile, gayriresmî normları değiştirmek başlı başına değer taşıyabilir.
Özyinelemeli kendini geliştirme ve yapay zekâ modellerindeki uyumsuzluklar hakkında bilgi paylaşmak, herkesin sorumsuz davranmanın kendi çıkarına olmadığını anlamasına yardımcı olabilir.
Sonuç
Yapay zekânın insan yaşamının kalitesini olağanüstü ölçüde iyileştirebileceğine inanmaya devam ediyorum.
Bu faydaları elde etme arzumda hiçbir azalma yok.
Ancak bu faydalar ancak teknolojiyi doğru biçimde geliştirirsek gerçekleşebilir.
Kazandığımız zamanı iyi kullandığımız sürece, bu teknolojiyi doğru şekilde geliştirmek için olağanüstü ölçüde dikkatli davranmaya değer.
İlerleme yine de nispeten hızlı olacaktır.
Bu zamanı yorumlanabilirlik bilimini geliştirmek, öncü yapay zekâ şirketlerinde operasyonel güvenliği ve titizliği artırmak ve uyumundan çok daha fazla emin olduğumuz modeller oluşturmak için kullanabiliriz.
Yapay zekâ gelişimini güvenli bir hızda ilerletmek için önerdiğim önlemler kolay olmayacak. Ancak insanlık adına bunları denemek zorunda olduğumuza inanıyorum.
Dipnot
1. Hükümetin arabuluculuğu veya antitröst kısıtlamalarından muafiyetlerle.