Bugün var olan yapay zeka sistemleri — büyük dil modelleri dahil — kendi niyeti, isteği veya dünyayı ele geçirme amacı olan sistemler değildir; verilen görevi istatistiksel örüntülerle yerine getiren araçlardır. Bu yüzden “yapay zeka bize karşı gelir mi” korkusu, bugünkü teknolojinin çalışma şekliyle örtüşmüyor. Ama bu, risk olmadığı anlamına gelmez — riskler, yapay zekanın kendisinden çok nasıl kullanıldığından kaynaklanıyor.
Somut ve bugün gerçek olan riskler şunlar: yanlış bilgi (halüsinasyon sonucu inandırıcı ama uydurma cevaplar), kötüye kullanım (sahte içerik, dolandırıcılık, deepfake), önyargı (eğitim verisindeki eşitsizliklerin modele taşınması), mahremiyet (kişisel verinin model eğitiminde veya çıktısında sızması) ve denetimsiz otomasyon (bir sistemin, insan onayı olmadan kritik bir kararı — kredi, işe alım, tıbbi teşhis — tek başına vermesi). Bunların hepsi teknik değil, çoğunlukla tasarım ve yönetişim sorunu.
Uzun vadeli ve daha tartışmalı risk kategorisi, güçlü bir AGInin (henüz var olmayan, insan seviyesinde genel zekâ) kontrolden çıkması senaryosudur. Bu konuda araştırmacılar arasında bile görüş ayrılığı var; bazıları yakın bir tehdit görürken, bazıları bunu çok uzak ve spekülatif buluyor. Ciddi yapay zeka laboratuvarlarının güvenlik ekipleri tam da bu senaryoları önceden test etmek için çalışıyor.
Pratik tavsiye: yapay zekayı “tehlikeli mi, değil mi” ikiliğinde değil, “hangi kararı ona bırakıyorum, hangi kararı insanda tutuyorum” sorusuyla değerlendirmek daha isabetlidir.