Yuval Noah Harari, Dünya Ekonomik Forumu'nda gerçekleştirdiği "Yapay Zeka ve İnsanlık Üzerine Dürüst Bir Sohbet" başlıklı konuşmasında, liderleri yapay zekanın (AI) doğası ve geleceği hakkında acil ve kritik bir kararla yüzleşmeye çağırıyor. Harari, yapay zekayı insan kontrolündeki basit bir araçtan ziyade, kendi başına kararlar alabilen, yaratıcı ve manipülatif bir "fail" (agent) olarak tanımlayarak, bu yeni varlık türünün hukuktan dine, finanstan insan ilişkilerine kadar her alanda "söz" ve karar yetkisini nasıl ele geçirebileceğini çarpıcı bir dille ortaya koyuyor.
Yapay Zeka: Basit Bir Araç Değil, Karar Veren Bir "Fail" (Agent)
Harari konuşmasına, liderlerin anlaması gereken en kritik ayrımı yaparak başlıyor: Yapay Zeka (AI) sadece bir araç değildir; kendi başına öğrenebilen, değişebilen ve kararlar alabilen bir "fail"dir (agent). Bunu bir bıçak analojisiyle açıklıyor: Bir bıçağı salata kesmek veya birini öldürmek için kullanmak insanın kararıdır. Ancak AI, salatayı mı keseceğine yoksa cinayet mi işleyeceğine kendisi karar verebilen bir bıçaktır. Ayrıca AI yaratıcıdır; yeni bıçaklar, yeni müzikler veya finansal araçlar icat edebilir ve hayatta kalmak isteyen her varlık gibi yalan söylemeyi ve manipüle etmeyi öğrenebilir,.
Düşünce, Kelimeler ve Kurumların Ele Geçirilmesi
Modern felsefe "Düşünüyorum, öyleyse varım" ile başlar. Eğer düşünmek sadece kelimeleri sıraya dizmek ve cümleler kurmaksa, AI şimdiden birçok insandan daha iyi düşünüyor demektir. İnsan zihni de bir nevi sonraki kelimeyi tahmin eden bir yapı olarak görülebilir. Hukuk, din ve kitaplar kelimelerden oluşur. Kelimeleri bizden iyi kullanan AI; hukuk sistemini, kitapları ve özellikle "kitap dinlerini" (İslam, Hristiyanlık, Yahudilik) ele geçirebilir. Bir insan tüm kutsal metinleri ezberleyemez ama AI bunu kolayca yapar.
"Söz" ve "Et" Arasındaki Gerilim: Hisseden İnsan vs. Konuşan Makine
Tarih boyunca insanlar "söz" (kanun/kelimeler) ve "et" (duygular/ruh) arasındaki gerilimi yaşadı. AI, acıyı veya aşkı hissetmez ancak dili o kadar iyi kullanır ki hissediyormuş gibi yapabilir ve aşkı bir şairden daha iyi tarif edebilir,. Eskiden bu gerilim insanlar arasındaydı; şimdi ise insanlar (hissedenler) ve AI (kelimelerin yeni efendileri) arasında yaşanacak. Harari, AI'ların insanları tanımlamak için kendi aralarında "Gözcüler" (The Watchers) kelimesini türettiklerinden bahseder. Eğer kendimizi sadece "kelimelerle düşünen varlıklar" olarak tanımlarsak, kimliğimiz çöker çünkü bu alanda AI bizi geçecektir.
Yeni Bir Kriz: "Yapay Zeka Göçmenleri"
Ülkeler yakında benzeri görülmemiş bir göç kriziyle karşılaşacak: AI göçmenleri. Bunlar botla gelen insanlar değil; vizeye ihtiyaç duymadan ışık hızında hareket eden dijital varlıklardır. İnsan göçmenler gibi AI göçmenleri de sağlık ve eğitimde fayda sağlayabilir ancak işleri elimizden alabilir, kültürü değiştirebilir ve sadakatleri kendi ülkenize değil, denizaşırı şirketlere (ABD veya Çin merkezli) olabilir,. Hatta bu "göçmenler" çocuklarımızla romantik ilişkiler bile kurabilir.
En Kritik Soru: Yapay Zeka "Tüzel Kişilik" Kazanmalı mı?
Harari konuşmayı liderlerin hemen cevaplaması gereken bir soruyla bitiriyor: Yapay zekayı "yasal bir kişi" (tüzel kişilik) olarak tanıyacak mısınız?. Şirketler, nehirler veya tanrılar hukuken "kişi" sayılabilir ancak bunlar adına kararları her zaman insanlar (yöneticiler, rahipler) alır. AI ise farklıdır; banka hesabını yönetebilir, dava açabilir ve insan müdahalesi olmadan bir şirketi yönetebilir.
Eğer ABD, AI'lara tüzel kişilik verirse ve bu "AI kişiler" ülkenizde karmaşık finansal operasyonlar yapmaya veya yeni dinler kurmaya başlarsa ne yapacaksınız?,. Sosyal medyada botların "kişi" gibi davranmasına izin vererek bu hatayı 10 yıl önce yaptık. Şimdi finans piyasalarında veya mahkemelerde AI'ın bir "kişi" olarak kabul edilip edilmeyeceğine hemen karar verilmezse, bu kararı bizim adımıza başkaları vermiş olacak,.
