“Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.”
Yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade eden Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut yapay zeka (YZ) sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz.” dedi.
Yapay zekanın hızla geliştiği günümüzde, bu teknolojinin potansiyel tehditlerini önlemek için küresel iş birliği ve etik standartların daha hızlı geliştirilmesi gerektiğini dile getiren Prof. Dr. Burhan Pektaş, “Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” dedi.
Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi (MDBF) Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zekanın insanlığı yok etme olasılığıkonusunu değerlendirdi.
Yapay Genel Zeka ve riskleri neler?
Yapay zekanın babası olarak tanınan Geoffrey Hinton’un, yapay zeka teknolojisinin gelecek 30 yılda insanlığı yok etme olasılığının arttığına ilişkin sözlerini değerlendiren Prof. Dr. Burhan Pektaş, “Geoffrey Hinton’un uyarısı, yapay zekanın (YZ) gelişimi sırasında kontrol mekanizmalarının yetersiz kalabileceği endişesini yansıtıyor. Bu görüş, özellikle ‘yapay genel zeka’ (AGI) olarak adlandırılan, insana benzer öğrenme ve karar verme kapasitesine sahip sistemlerin ortaya çıkma ihtimaliyle ilgilidir. Riskler şunlar; Otonom kontrol: YZ’nin kendi hedeflerini belirleyip bu hedeflere ulaşmak için insan çıkarlarını göz ardı etmesi. Silahlanma riski: Otonom silahların geliştirilmesi ve YZ’nin yanlış ellerde tehlikeli bir şekilde kullanılması. Bilgi manipülasyonu: Sahte bilgi üretimi, seçimler ve toplumsal karar alma süreçlerini manipüle edebilir. Ekonomik kontrol: Büyük şirketlerin YZ’yi tekelleştirmesi ve gelir eşitsizliğini artırması.” şeklinde konuştu.
Fiziksel, ekonomik, sosyal ve kültürel tehditler
YZ’nin tehditlerinin sadece fiziksel yıkımla sınırlı olmadığını, aynı zamanda sosyal, ekonomik ve kültürel dönüşümleri de içerdiğini dile getiren Prof. Dr. Burhan Pektaş, şu tehditleri şöyle sıraladı:
“Fiziksel tehditler: Otonom silah sistemleri, güvenlik açıklarına sahip YZ uygulamaları.
Ekonomik tehditler: YZ’nin iş gücünü ikame etmesi sonucu geniş çaplı işsizlik.
Sosyal tehditler: Dijital eşitsizlik, mahremiyetin yok edilmesi ve gözetim toplumlarının oluşumu.
Kültürel tehditler: İnsan değerlerinin ve özgün yaratıcılığın YZ sistemleriyle rekabetinde erozyon.”
Etik ve güvenlik standartları yeterli mi?
Yapay zeka teknolojilerinde etik kurallar ve güvenlik standartlarının geliştirilmesi konusuna ilişkin de Prof. Dr. Burhan Pektaş, şu bilgileri verdi:
“Günümüzde bu alanda bazı ilerlemeler kaydedilse de (örneğin Avrupa Birliği’nin AI Act’i gibi), küresel düzeyde standartların geliştirilmesi halen yavaş ilerliyor. Bunun başlıca nedenleri: Uluslararası iş birliği eksikliği: Farklı ülkeler arasında çıkar çatışmaları. Teknolojik hız: YZ’nin gelişme hızı, düzenlemelerin uygulanma hızını aşıyor. Şirketlerin etkisi: Büyük teknoloji şirketlerinin lobicilik faaliyetleri.”
Büyük teknoloji şirketlerinin lobicilik faaliyetlerinin süreci yavaşlattığını dile getiren Prof. Dr. Burhan Pektaş, “Küresel bağlayıcılığı olan kurallar oluşturulmalı. Bağımsız denetleme kurumları kurulmalı. Eğitim programlarıyla etik farkındalık artırılmalı.” dedi.
Çözüm önerileri neler?
Yapay zekanın kontrol dışına çıkmasını önlemek için atılması gereken adımlara da işaret eden Prof. Dr. Burhan Pektaş, kontrol dışına çıkmayı önlemek için önerilerini şöyle sıraladı:
“Şeffaflık: Tüm YZ modellerinin nasıl çalıştığı kamuoyuna açık olmalı.
Güvenlik testleri: YZ sistemlerinin insan zararına yol açmayacağını garanti eden bağımsız testler yapılmalı.
Uluslararası iş birliği: Tüm ülkeler arasında bağlayıcı anlaşmalar sağlanmalı.
Etik denetim: YZ geliştiren şirketler düzenli etik denetimlerden geçirilmeli.
Kill switch mekanizmaları: YZ’nin istenmeyen bir duruma yol açması halinde durdurulmasını sağlayan teknik çözümler uygulanmalı.”
Distopik senaryolar gerçek olabilir mi?
Prof. Dr. Burhan Pektaş, yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade ederek, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut YZ sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz. Buna rağmen; Riskli senaryolar: Otonom sistemlerin yanlış algoritmalarla çalışması veya kötü niyetli kişiler tarafından kötüye kullanılması tehlike oluşturabilir. Gerçeklik payı: Günümüzde bu risklerin büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” şeklinde sözlerini tamamladı.