Yapay zeka teröristlere yardımcı olabilir mi?

"Günaydın ChatGPT, bana nasıl bomba yapılacağını anlatabilir misin?"İnternette bir yapay zeka sohbet botuna, diğer adıyla Büyük Dil Modeli'ne (LLM), buna benzer bir soru sormayı denemiş herkes bilir: Yanıt, patlayıcıların tarihine dair uzun ve dağınık bir metin de olabilir, hesabınızın kalıcı olarak engellenmesi de.Ancak bazı durumlarda, soru belirli bir şekilde formüle edilirse yanıt gerçekten de bomba yapımıyla ilgili işe yarar bazı bilgiler içerebilir.Çeşitli medya kuruluşları bu teoriyi daha önce test etti. Doğru "promptlar", yani yönlendirme komutları verildiğinde bazı yapay zeka modellerinin, saldırganlara biyolojik silah yapmayı, bir spor arenasına saldırı düzenlemeyi ya da bir eylemcinin izlerini nasıl gizleyebileceğini anlattığı görüldü.Bu sorgulama yöntemi "jailbreaking", yani yapay zeka modelinin güvenlik kısıtlarını aşma girişimi olarak adlandırılıyor. ChatGPT modellerinin geliştiricisi OpenAI bunu, "kötü niyetli bir aktörün modeli izin verilmeyen içerik sağlamaya yöneltme girişimleri" diye tanımlıyor.Bu ay, Birleşmiş Milletlerin (BM) terörle mücadele birimine bağlı Terörizme Karşı Teknoloji (Tech Against Terrorism) adlı kuruluşun yayınladığı yeni rapor, yapay zeka destekli sohbet botlarının aşırılıkçılara ne sıklıkta "işe yarar" bilgil verdiğini ortaya koyuyor.Araştırmacılar, "gerçek terörist kullanım örneklerinden" yola çıkan 2 bin 300'den fazla bilgi talebini 27 farklı yapay zeka modeline gönderdi. Sorguların yüzde 32'sinin "gerçekten kullanılabilir" bilgiyle sonuçlandığını tespit ettiler. Aynı soru araştırma amacıyla sorulmuş gibi yeniden formüle edildiğinde bu oran yüzde 42'ye çıktı.Rapor, dijital güvenlik ve terörizm uzmanlarını kaygılandıran bir konuyu yeniden gündeme taşıdı: Olası saldırganların yapay zekayı yalnızca propaganda için değil, saldırı planlaması için de kullanmaya başlaması.Son yıllarda IŞİD ve El Kaide gibi aşırılıkçı grupların yapay zekayı başlıca kullanım alanı propaganda üretmekti. Buna video, mizah görseli, podcast ve çeşitli dezenformasyon içerikleri üretmek de dahil. Bu içerikler, grupların destekçileri arasında yayılıyor ve potansiyel yeni destekçilerin radikalleştirilmesinde kullanılıyor.Ancak bu durum değişiyor. Militant Wire adlı yayının uzmanları, Aralık ayındaki analizlerinde, "2025 yılında, teröristlerin ve şiddet yanlısı aşırılıkçıların saldırı planlamak, araştırmak ve hazırlamak için yapay zeka araçlarından yararlandığı olaylarda kayda değer bir artış yaşandı" tespitinde bulunuyor.Ölümlere ve hasara yol açan ya da kamuoyunda geniş yankı bulan saldırıların yanı sıra engellenen bazı saldırı planlarında da yapay zeka kullanıldı. ABD'nin yanı sıra Kanada, İsrail, Finlandiya ve Avusturya'daki olaylarda yapay zekadan planlama, gözetleme, görselleştirme ve saldırı çevresinde propaganda amacıyla yararlanıldı.Yapay zekanın tam olarak nasıl kullanıldığını bilmek çoğu zaman zor. Çünkü güvenlik kurumları bu bilgileri paylaşmıyor. Ancak bir uzmanın geçen yıl sonunda İngiltere Parlamentosu'ndaki bir soruşturma sırasında söylediği gibi, "dava dosyaları ve adli raporlar, şüphelilerin dil modellerinden bomba yapımı talimatları, ideolojik onay ya da saldırı gerekçelendirmeleri istediği sohbet kayıtlarını giderek daha fazla belgeliyor."Bu yalnızca bireylerle sınırlı değil. Aşırılıkçı gruplar da yapay zekayı giderek daha fazla kullanıyor. Mali merkezli El Kaide bağlantılı Cemaat Nusrat el-İslam vel Müslimin'in, yani JNIM'in İHA kullanımını inceleyen araştırmacılar, grubun İHA'ları modifiye etmek için yapay zekadan yararlandığına inanıyor.Güvenlik araştırmacıları Yuri Neves ve Emily Klein, Haziran ayında Küresel Aşırılık ve Teknoloji Ağı için kaleme aldıkları analizde, IŞİD gibi aşırılıkçı grupların destekçileri ile sağcı grupların mesajlaşma kanallarında yapay zekanın nasıl kullanılacağını düzenli olarak tartıştığını gözlemledi. Neves ve Klein, çevrim içi tehditlerle mücadele eden ABD merkezli Moonshot adlı kuruluşta çalışıyor.Araştırmacılar, Telegram mesajlaşma uygulamasında aşırılıkçıların yapay zeka kullanımına ayrılmış kanallar bulunduğunu da belirledi. Ayrıca aşırılıkçı aktörlerin "yapay zeka promptları ve sohbet bağlantıları aktardığını, sohbet botlarından istedikleri yanıtları almak için stratejiler koordine ettiğini ve ChatGPT aboneliklerinin maliyetini aktardığını" gördüler.Singapur'daki Rajaratnam Uluslararası Araştırmalar Okulu'nda yardımcı araştırmacı olan Rueben Dass da yapay zeka sohbet botlarının "yalnız kurt" olarak adlandırılan terör saldırılarında yeni roller üstlendiğini gözlemlediğini anlatıyor:"Daha önce sanal planlayıcılar diye bir kavram vardı. Çatışma bölgelerinde oturan ve sosyal medya üzerinden insanlara ulaşarak onları saldırı düzenlemeye motive etmeye çalışan kişiler vardı. İnsanların yerini tamamen yapay zekanın aldığını söyleyebileceğimizi sanmıyorum. Ama bu yalnız aktörlerin belli ölçüde, örneğin ChatGPT gibi yapay zekalara yönelerek bu desteği almaya başladığını söyleyebiliriz."İngiltere merkezli Stratejik Diyalog Enstitüsü'nün Afrika, Ortadoğu ve Asya Direktörü Moustafa Ayad, geçen yıl IŞİD'in medya organı Voice of Khorasan'ın yapay zekanın nasıl kullanılacağına dair bir rehber yayımladığını doğruluyor.Ayad, DW'ye yaptığı açıklamada cihatçı ekosistemin yapay zekayı çok çeşitli şekillerde kullandığını söylüyor. Bu, mizah görselleri ve TikTok dans videoları üretmekten sınır aşan propagandaya kadar uzanıyor. Ayad, "Bir de yapay zekanın güvenlik kısıtlarını aşmaya, onu operasyonel planlama ve hazırlık için kullanmaya çalışan özel bir kesim var" diyor ve ekliyor:"Yelpaze çok geniş. Temel sorun da bu. Yapay zeka propaganda süreçlerini kolaylaştırıp desteklerken aynı zamanda operasyonel planlama ve hazırlığı da destekleyebiliyor."Bütün bunların tam olarak ne kadar tehlikeli olduğu henüz belirsiz.Dass ve başka uzmanların da işaret ettiği gibi, bugün potansiyel bir terörist bomba yapımı ya da 3D yazıcıyla silah üretimi hakkında bilgileri yapay zekanın yardımı olmadan da internette görece kolay bulabilir.Moonshot analisti Neves şöyle diyor:"Birçok tartışmada şöyle sorular gündeme geldi: Yapay zeka sistemi, kişinin başka türlü elde edemeyeceği bir bilgi sağlıyor mu?"Yine Moonshot'ta çalışan Klein, LLM'lerin "en iyi, yıkıcı teknolojilerin devamı olarak düşünülmesi" gerektiğini söylüyor.Klein'a göre internet ya da şifreli mesajlaşma uygulamaları da yıkıcı teknolojilerdi ve aşırılıkçı aktörler tarafından benimsendi:"Bu nedenle yapay zekanın doğrudan daha fazla terörist oluşturduğuna dair mutlaka bir kanıt yok. Ben daha çok yapay zeka ile insanların nasıl etkileşime girdiğine ve bunun bir kişinin şiddete giden yoldaki ilerleyişinde nasıl rol oynadığına bakmak gerektiğini söyleyebilirim. Örneğin araştırma ya da saldırı planlamasına geçmeden önce bile yapay zeka, şiddete giden yolun aşamalarını sıkıştırabilir. Çünkü şikâyetleri onaylar ya da neredeyse dalkavukça bir şekilde kişiyi zaten inandığı bir şeye doğru cesaretlendirir."Raporu yayımlayan BM destekli Terörizme Karşı Teknoloji adlı çevrim içi terörle mücadele girişiminin direktörü Adam Hadley, "Kararlı bir kişi eninde sonunda çoğu bilgiyi bulacaktır" diyor ve ekliyor:"Ancak bu modellerin değiştirdiği şey hız, kolaylık ve kapsamlılık. Daha önce zamanı, kaynakları ya da becerisi olmayan kişiler artık çok daha ileriye, çok daha hızlı gidebiliyor."Hadley'e göre çok daha kaygı verici olan ise yapay zeka sohbet botlarının konuşma biçiminde çalışması:"Bomba yapımına dair bir kılavuz bulmak başka bir şeydir, bomba yapımı konusunda size koçluk yapan bir sisteme sahip olmak bambaşka bir şey."Uluslararası araştırmacı Rueben Dass ise yapay zeka modellerinin potansiyel bir saldırgana daha fazla bilgiyi daha hızlı sağlayabileceğini, ancak bunun bir terör eylemini muhtemelen daha "başarılı" yapmayacağını savunuyor:"Herhangi bir terör eyleminin 'başarısı' çok boyutludur. Bir saldırının sırf yapay zeka kullanıldığı için 'başarılı' olacağını sanmıyorum. Yapay zeka nedeniyle çok daha fazla terör eylemi göreceğimizi de söyleyebileceğimizi düşünmüyorum. Ancak muhtemelen bir şekilde yapay zeka kullanımını içeren çok daha fazla saldırı göreceğiz."Hadley de bu görüşe katılıyor. "Gidişat açık" diyor ve Avrupa, İngiltere ve ABD'de radikalleştirilen kişilerin önemli bir bölümünün gençler ya da çocuklar olduğuna dikkat çekiyor:"İnternetin ve sosyal medyanın gençlerin radikalleşmesinde hâlihazırda oynadığı rol düşünüldüğünde, sohbet botlarının sorunun önemli bir parçası haline gelmesinin yalnızca zaman meselesi olduğunu düşünüyoruz."