Yapay zekayla ilgili distopik senaryolar gerçek olabilir mi?

Haber Merkezi tarafından
01 Şubat, 2025 16:25 tarihinde yayınlandı
A+ A-

“Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.”

Yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade eden Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut yapay zeka (YZ) sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz.” dedi.

Yapay zekanın hızla geliştiği günümüzde, bu teknolojinin potansiyel tehditlerini önlemek için küresel iş birliği ve etik standartların daha hızlı geliştirilmesi gerektiğini dile getiren Prof. Dr. Burhan Pektaş, “Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” dedi.

Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi (MDBF) Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zekanın insanlığı yok etme olasılığıkonusunu değerlendirdi.

Yapay Genel Zeka ve riskleri neler?

Yapay zekanın babası olarak tanınan Geoffrey Hinton’un, yapay zeka teknolojisinin gelecek 30 yılda insanlığı yok etme olasılığının arttığına ilişkin sözlerini değerlendiren Prof. Dr. Burhan Pektaş, “Geoffrey Hinton’un uyarısı, yapay zekanın (YZ) gelişimi sırasında kontrol mekanizmalarının yetersiz kalabileceği endişesini yansıtıyor. Bu görüş, özellikle ‘yapay genel zeka’ (AGI) olarak adlandırılan, insana benzer öğrenme ve karar verme kapasitesine sahip sistemlerin ortaya çıkma ihtimaliyle ilgilidir. Riskler şunlar; Otonom kontrol: YZ’nin kendi hedeflerini belirleyip bu hedeflere ulaşmak için insan çıkarlarını göz ardı etmesi. Silahlanma riski: Otonom silahların geliştirilmesi ve YZ’nin yanlış ellerde tehlikeli bir şekilde kullanılması. Bilgi manipülasyonu: Sahte bilgi üretimi, seçimler ve toplumsal karar alma süreçlerini manipüle edebilir. Ekonomik kontrol: Büyük şirketlerin YZ’yi tekelleştirmesi ve gelir eşitsizliğini artırması.” şeklinde konuştu.

Fiziksel, ekonomik, sosyal ve kültürel tehditler 

YZ’nin tehditlerinin sadece fiziksel yıkımla sınırlı olmadığını, aynı zamanda sosyal, ekonomik ve kültürel dönüşümleri de içerdiğini dile getiren Prof. Dr. Burhan Pektaş, şu tehditleri şöyle sıraladı:

“Fiziksel tehditler: Otonom silah sistemleri, güvenlik açıklarına sahip YZ uygulamaları.

Ekonomik tehditler: YZ’nin iş gücünü ikame etmesi sonucu geniş çaplı işsizlik.

Sosyal tehditler: Dijital eşitsizlik, mahremiyetin yok edilmesi ve gözetim toplumlarının oluşumu.

Kültürel tehditler: İnsan değerlerinin ve özgün yaratıcılığın YZ sistemleriyle rekabetinde erozyon.”

Etik ve güvenlik standartları yeterli mi?

Yapay zeka teknolojilerinde etik kurallar ve güvenlik standartlarının geliştirilmesi konusuna ilişkin de Prof. Dr. Burhan Pektaş, şu bilgileri verdi:

“Günümüzde bu alanda bazı ilerlemeler kaydedilse de (örneğin Avrupa Birliği’nin AI Act’i gibi), küresel düzeyde standartların geliştirilmesi halen yavaş ilerliyor. Bunun başlıca nedenleri: Uluslararası iş birliği eksikliği: Farklı ülkeler arasında çıkar çatışmaları. Teknolojik hız: YZ’nin gelişme hızı, düzenlemelerin uygulanma hızını aşıyor. Şirketlerin etkisi: Büyük teknoloji şirketlerinin lobicilik faaliyetleri.”

Büyük teknoloji şirketlerinin lobicilik faaliyetlerinin süreci yavaşlattığını dile getiren Prof. Dr. Burhan Pektaş, “Küresel bağlayıcılığı olan kurallar oluşturulmalı. Bağımsız denetleme kurumları kurulmalı. Eğitim programlarıyla etik farkındalık artırılmalı.” dedi.

Çözüm önerileri neler?

Yapay zekanın kontrol dışına çıkmasını önlemek için atılması gereken adımlara da işaret eden Prof. Dr. Burhan Pektaş, kontrol dışına çıkmayı önlemek için önerilerini şöyle sıraladı:

“Şeffaflık: Tüm YZ modellerinin nasıl çalıştığı kamuoyuna açık olmalı.

Güvenlik testleri: YZ sistemlerinin insan zararına yol açmayacağını garanti eden bağımsız testler yapılmalı.

Uluslararası iş birliği: Tüm ülkeler arasında bağlayıcı anlaşmalar sağlanmalı.

Etik denetim: YZ geliştiren şirketler düzenli etik denetimlerden geçirilmeli.

Kill switch mekanizmaları: YZ’nin istenmeyen bir duruma yol açması halinde durdurulmasını sağlayan teknik çözümler uygulanmalı.”

Distopik senaryolar gerçek olabilir mi?

Prof. Dr. Burhan Pektaş, yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade ederek, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut YZ sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz. Buna rağmen; Riskli senaryolar: Otonom sistemlerin yanlış algoritmalarla çalışması veya kötü niyetli kişiler tarafından kötüye kullanılması tehlike oluşturabilir. Gerçeklik payı: Günümüzde bu risklerin büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” şeklinde sözlerini tamamladı.

BARÜ’nün dijital teknolojileri arkeolojiyle buluşturacağı projede çalışmalara başlandı

blank
İhlas Haber Ajansı tarafından
07 Mart, 2025 18:17 tarihinde yayınlandı
A+ A-

Bartın Üniversitesinin (BARÜ) Erasmus+ tarafından desteklenen ve arkeolojik kültürel mirasın dijital teknolojilerle geleceğe aktarılacağı projesi kapsamında çeşitli temaslarda bulunuldu.
Bartın Üniversitesi (BARÜ) Edebiyat Fakültesi Bilgi ve Evrak İdaresi Kısmı ile Sanat Tarihi Kısmının ortağı, Bulgaristan History Museum Primorsko Müze Müdürlüğünün yürütücüsü olduğu KA220 - DigiArcheoSpace Erasmus+ projesinde çalışmalar devam ediyor. "Arkeolojide Kültürel Mirası Belgelemek ve Sunmak İçin Çağdaş Araçlar" başlıklı projenin saha ziyaretleri kapsamında Filyos’taki Tios Antik Kenti’nin kültürel mirasını belgelemek amacıyla bir dizi görüşme gerçekleştirildi.
Bu doğrultuda proje grubunda yer alan Bilgi ve Doküman İdaresi Kısmından Doç. Dr. Ahmet Altay, Doç. Dr. Lale Özdemir Şahin ile Sanat Tarihi Kısmından Prof. Dr. Şahin Yıldırım ve Dr. Öğr. Üyesi Ali Bora; Çaycuma Kaymakamı Adem Kaya, Çaycuma Belediye Başkanı Bülent Kantarcı ile Filyos Belediye Lideri Erol Acar’ı ziyaret etti. BARÜ’nün "Akıllı Lojistik ve Bütünleşik Bölge Uygulamaları" başlıklı ihtisaslaşma alanındaki mevzuları da kapsayan çalışmalar hakkında bilgi veren proje grubu, yeni teknolojiler kullanılarak yürütülen uygulamaları anlattı.
Görüşmelerde ayrıyeten projenin ikinci toplantısının Bulgaristan, Makedonya, Hırvatistan ve Türkiye’den 25 akademisyen ve uzmanın iştirakiyle 24 Mart 2025 tarihinde Filyos’ta gerçekleştirileceği, iştirakçilerin Tios Antik Kenti’nde bilimsel incelemelerde bulunacağı da paylaşıldı.
Kültürel mirasın korunması ve aktarılması noktasında BARÜ’nün ihtisaslaşma alanındaki çalışmalarını da kapsayan projenin ehemmiyetine değinen Rektör Prof. Dr. Orhan Uzun, "Bartın Üniversitesi olarak vilayetimizden başlayarak bölgemizin gelişimine paha katmak gayesiyle çalışmalarımızı sürdürüyoruz. İhtisaslaşma alanımızı da kapsayan akademik araştırma ve uygulamalarla elde ettiğimiz deneyimleri, geniş bir çerçevede kullanarak disiplinler ortası iş birlikleri yapıyoruz. Bu noktada Filyos’ta bulunan Tios Antik Kenti’nin arkeolojik kültürel mirasının belgelenmesini ve geleceğe aktarılmasını epeyce kıymetli buluyor, çalışmaların bölgemiz ve ülkemiz ismine güzel olmasını diliyorum" dedi.

Yorum Yaz

Gönderdiğiniz yorum moderasyon ekibi tarafından incelendikten sonra yayınlanacaktır.