Yapay Zeka Çağına Açılan Köprüde Proaktif Hukuk

Yapay Zekâ Çağına Açılan Köprüde Proaktif Hukuk Erhan CAN Lyon 2025 Yapay Zekâ Çağına Açılan Köprüde Proaktif Hukuk Erhan CAN Lyon 2025 Yapay Zekâ Çağına Açılan Köprüde Proaktif Hukuk Author • Asst. Prof. Dr. Erhan CAN • Orcid: 0000-0002-2434-0187 Cover Design • Motion Graphics Book Layout • Motion Graphics First Published • September 2025, Lyon e-ISBN: 978-2-38236-895-4 DOI: 10.5281/zenodo.17178392 copyright © 2025 by Livre de Lyon All rights reserved. No part of this publication may be reproduced, stored in a retrieval system, or transmitted in any form or by any means, electronic, mechanical, photocopying, recording, or otherwise, without prior written permission from the Publisher. The author or authors of the relevant section are responsible for any copyright infringement that may occur due to the images and graphics used in the book. The editor or publisher does not assume responsibility in this regard. Publisher • Livre de Lyon Address • 37 rue marietton, 69009, Lyon France website • http://www.livredelyon.com e-mail • [email protected] I KISA ÖZGEÇMİŞ Dr. Öğretim Üyesi Erhan CAN, Amasya nüfusuna kayıtlı olup 1968 yılında Konya ilinde doğmuştur. Jandarma Teğmen rütbesiyle 1990 yılında Kara Harp Okulundan, sonrasında Piyade Subay, Jandarma Subay Okulu’ndan mezun olmuştur. Türk Silahlı Kuvvetleri çeşitli kademelerinde görev yapmış, 30 Ağustos 2019 tarihinde İl Jandarma Tugay Komutanı görevinde Tuğgeneral rütbesinde emekli olmuştur. Harp Akademileri Komutanlığında Komutanlık ve Karargâh Subaylığı öğrenimini, Pedagojik Formasyon Eğitimini, Hukuk Fakültesi, Avrupa Birliği Hukuku ile İşletme-Yönetim ve Organizasyon alanlarında Yüksek Lisans öğrenimlerini tamamlamıştır. Dr. Öğr. Üyesi Erhan CAN Genel Kamu Hukuku Anabilim Dalı II   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 2017 yılında Kırıkkale Üniversitesi’nden “İnternet Suçlarının Kişisel Hak ve Özgürlüklere Etkisi” tezi ile Kamu Hukuku alanında Doktora derecesini almıştır. Jandarma Okullar Komutanlığı (Jandarma Sahil Güvenlik Akademisi), Kara Harp Okulu (Milli Savunma Üniversitesi) ve çeşitli okullarda dersler vermiştir. Hukuk alanında bilimsel çalışmaları ve makaleleri mevcuttur. Adalet Bakanlığı’na kayıtlı Uzman Arabulucudur. Avukattır. Noterlik Belgesi sahibidir. 2022 yılından itibaren Ankara Bilim Üniversitesi Hukuk Fakültesi Genel Kamu Hukuku kürsüsünde Doktor Öğretim Üyesi olarak görev yapmaktadır. Akademik ilgi alanları; Bilişim Hukuku, Yapay Zeka ve Hukuk, İnternet Suçları, İnsan Hakları, Kişisel Hak ve Özgürlükler, Genel Kamu Hukuku, Ceza Hukuku, Roma Hukuku, Türk Hukuk Tarihi, Avukatlık Hukuku, Kriminoloji, Siyasi Tarih, İnkılap Tarihi, Milli Güvenlik, Terör ve Hukuk, İstihbarat, İstihbarata Karşı Koyma, Koruyucu Güvenlik, Kaçakçılık Organize Suçlarla Mücadele ve Hukuk konularıdır. III ÖNSÖZ İçinde bulunduğumuz yirmi birinci yüzyıl, insanlık tarihinin en hızlı ve en köklü dönüşümlerinden birine sahne olmaktadır. Sanayi devrimleriyle başlayan teknolojik ilerleme, dijital çağın yükselişiyle ivme kazanmış, günümüzde ise yapay zekâ teknolojileri aracılığıyla bambaşka bir boyuta taşınmıştır. Yapay zekâ yalnızca teknik bir yenilik değil, aynı zamanda bireyleri, toplumları, devletleri ve küresel sistemi yeniden şekillendiren çok yönlü bir dönüşümün merkezinde yer almaktadır. Bu dönüşüm, hukuk sistemlerinin de alışılmış işleyiş mantığını zorlamakta ve hatta kimi zaman yetersiz bırakmaktadır. Geleneksel olarak hukuk, olay gerçekleştikten sonra devreye girer, sorunları çözer ve ihlalleri cezalandırır. Oysa yapay zekânın çok hızlı ilerleyen ve öngörülemeyen gelişim süreci, sadece mevcut sorunlara tepki vermekle yetinen bir yaklaşımın yetersiz kalacağını göstermektedir. Tam da bu noktada, IV   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK önleyici ve öngörülü bir yaklaşım olan proaktif hukuk anlayışı öne çıkmaktadır. Bu kitap, “Yapay Zekâ Çağına Açılan Köprüde Proaktif Hukuk” başlığıyla, hukuk dünyasında yeni bir vizyonun tartışılmasına katkı sağlamayı amaçlamaktadır. Burada sunulan görüşler, yalnızca teknik ve akademik tartışmaların ötesinde, insan onurunun korunması, temel hak ve özgürlüklerin güvence altına alınması ve insanlığın ortak geleceğinin güvenceye alınması kaygısı ile şekillenmiştir. Çünkü yapay zekâ teknolojilerinin sunduğu fırsatlar kadar, barındırdığı riskler de büyüktür. Varsayımsal dahi olsa insanlığı tehdit edebilecek riskler, artık bilim kurgu kurgusunun sınırlarını aşmış, akademik, politik ve toplumsal düzeyde ciddiyetle ele alınması gereken bir meseleye dönüşmüştür. Bu bağlamda proaktif hukuk, yalnızca ulusal düzeyde değil, aynı zamanda küresel ölçekte uygulanabilecek düzenlemelerle güçlendirilmelidir. Yapay zekâ teknolojilerinin sonuçları, belirli bir ülkenin sınırlarıyla sınırlı kalmamakta; dünyanın en uzak XI İÇINDEKİLER KISA ÖZGEÇMİŞ .......................................................................I ÖNSÖZ ......................................................................................III TEŞEKKÜR ............................................................................VII ÖZET .........................................................................................IX BÖLÜM I. YAPAY ZEKÂ VE HUKUKUN KESİŞİM NOKTALARI ..........................................................................1 1. Giriş .......................................................................................1 1.1. Yapay Zekâ Teknolojilerinin Gelişimi ................................2 1.2. Çalışmanın Amacı ..............................................................7 BÖLÜM II. KAVRAMSAL ÇERÇEVE ...................................9 2.1. Yapay Zekâ Tanımı ve Özellikleri ......................................9 2.2. Hukukun Dönüşen Rolü ...................................................18 2.3. Proaktif Hukuk Yaklaşımı ................................................19 BÖLÜM III. YAPAY ZEKÂ VE HUKUK İLİŞKİSİ. ............21 3.1. Yapay Zekânın Hukuk Uygulamalarında Kullanımı ........21 3.2. Yapay Zekânın Hukuka Konu Olması ..............................23 BÖLÜM IV. PROAKTİF HUKUKUN TEORİK 39 39 TEMELLERİ ......................................................................... 4.1. Reaktif ve Proaktif Hukuk Ayrımı .................................... 4.2. Önleyici Hukuk ve Risk Yönetimi ...................................41 4.3. Etik, İnsan Hakları ve Hukukun Gelecek Öngörüleri ......43 XII   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK BÖLÜM V. ULUSLARARASI PERSPEKTİF ......................45 5.1. Avrupa Birliği Yapay Zekâ Düzenlemeleri (AI Act) ........46 5.2. ABD’de Yapay Zekâ ve Hukuk Politikaları .....................56 5.3. Asya Perspektifi: Çin ve Japonya .....................................58 5.4. Uluslararası Örgütler ve Standartlar .................................60 BÖLÜM VI. TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK .... 63 6.1. Türkiye’nin Yapay Zekâ Stratejisi (2021–2025) ..............64 6.2. Veri Koruma ve Kişisel Verilerin Korunması Kanunu (KVKK) .................................................................65 6.3. Türk Hukukunda Proaktif Düzenlemeler İçin Öneriler ....75 6.4. Değerlendirme ..................................................................77 BÖLÜM VII. PROAKTİF HUKUKUN UYGULAMA ALANLARI ...........................................................................79 7.1. Kişisel Verilerin Korunması .............................................80 7.2. Sağlık Hukuku ve Yapay Zekâ .........................................82 7.3. Ceza Hukuku Boyutu .......................................................84 7.4. İş Hukuku ve Yapay Zekâ Temelli Çalışma Modelleri.....86 7.5. Ticaret ve Sözleşmelerde Proaktif Yaklaşım ....................87 7.6. Genel Değerlendirme .......................................................88 BÖLÜM VIII. YAPAY ZEKÂ VE ULUSLARARASI HUKUK .................................................................................89 8.1. İnsan Hakları Perspektifi ..................................................89 8.2. Uluslararası Ticaret ve Rekabet Hukuku ..........................90 İÇİNDEKİLER   XIII 8.3. Güvenlik ve Silahlanma ...................................................90 8.4. Çevre ve Sürdürülebilirlik ................................................96 8.5. Küresel Konsensüsün Gerekliliği .....................................99 BÖLÜM IX. TARTIŞMA .......................................................101 9.1. Hızlı Teknolojik Gelişmeler ve Hukukun Yavaş Adaptasyonu ......................................................................102 9.2. Küresel Ölçekte Düzenleme Gerekliliği.........................103 9.3. Proaktif Hukukun Demokratik Meşruiyet Sorunu .........104 9.4. İnsan Merkezli Yaklaşımın Önemi .................................104 BÖLÜM X. GELECEĞE YÖNELİK HUKUKİ ÇERÇEVELER VE STRATEJILER .................................107 10.1. Esnek ve Uyarlanabilir Hukuk .....................................107 10.2. Risk Temelli Düzenlemeler ..........................................108 10.3. Uluslararası İşbirliği ve Standartlar ..............................109 10.4. Çok Paydaşlı Stratejiler ................................................109 10.5. Önleyici ve Proaktif Yaklaşımın Entegrasyonu ............109 BÖLÜM XI. SONUÇ VE ÖNERİLER .................................111 11.1. Genel Sonuçlar ............................................................. 111 11.2. Öneriler ......................................................................... 112 11.3. Son Değerlendirme ve Gelecek Odakları ..................... 118 KAYNAKÇA ..........................................................................127 1 BÖLÜM I YAPAY ZEKÂ VE HUKUKUN KESİŞİM NOKTALARI 1. Giriş 21. yüzyıl, teknolojik gelişmelerin hızla toplumsal yaşamın her alanına nüfuz ettiği bir dönemdir. Bu süreçte en dikkat çekici yeniliklerden biri, yapay zekâ teknolojilerinin baş döndürücü gelişimidir. Yapay zeka yalnızca teknik alanlarda değil, aynı zamanda ekonomi, eğitim, sağlık, güvenlik ve hukuk gibi farklı sektörlerde de devrimsel dönüşümlere yol açmaktadır (Russell & Norvig, 2021). Günümüzde otonom araçların trafiğe çıkabilmesi, algoritmaların yargı kararlarını öngörebilmesi ya da yapay zekâ tabanlı robotların cerrahi operasyonlar yapabilmesi, hukukun bu dönüşüm karşısında nasıl bir rol üstleneceği sorusunu gündeme getirmektedir. 2   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 1.1. Yapay Zekâ Teknolojilerinin Gelişimi Hukuk, tarihsel olarak toplumsal düzenin sağlanması ve bireylerin haklarının korunması amacıyla şekillenmiştir. Ancak teknolojinin hızla gelişmesi, mevcut hukuk kurallarının yeterliliğini tartışmalı hale getirmiştir. Yapay zeka çağında hukukun yalnızca reaktif, yani ortaya çıkan uyuşmazlıkları çözmeye odaklı bir rol oynaması, toplumsal ve bireysel riskleri önlemek açısından yetersiz kalmaktadır (Scherer, 2016). Bu bağlamda, hukukun proaktif bir yaklaşım benimseyerek, henüz ortaya çıkmamış sorunları öngörmesi ve düzenlemeleri buna göre tasarlaması kritik bir önem taşımaktadır (Acar, 2020). YAPAY ZEKÂ VE HUKUKUN KESİŞİM NOKTALARI   3 Bu nedenle BM, AB gibi topluluklar ABD Çin Japonya Hindistan gibi teknolojik açıdan gelişmiş ülkeler başta olmak üzere yasal düzenlemeler veya bu konuda yol gösterici politikalar geliştirme yolunda adımlar atmaya başlamışlardır (Ergün, 2024) Özellikle makine öğrenmesi ve derin öğrenme yöntemleri, sağlık, finans, ulaşım ve hukuk gibi çok farklı sektörlerde kullanılmaya başlanmıştır. Günümüzde yapay zekâ uygulamaları yalnızca insan davranışlarını modellemekle kalmamakta, aynı zamanda insanın karar verme süreçlerini etkileyen ve kimi zaman yerine geçen özerk sistemlere dönüşmektedir (Wen, & Ti, 2024). Bu durum, yapay zekânın yalnızca teknik bir inovasyon değil, aynı zamanda yapay zeka için şimdilik nihai hedef olan biyolojik insan zekası ve beyin fonksiyonlarını tamamen taklit edebilme yolculuğu, onun sosyal düzenin ve tabiidir ki hukukun doğrudan doğruya konusu hatta neredeyse hukuki manada henüz olmasa ve olması da uygun değilse de neredeyse hukukun kişisi hâline geldiğini göstermektedir. Yapay zekanın felsefi temelleri ve ilk somut adımları 17. yüzyıla dayandırılabilir. 17. yüzyılın başta 4   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK yönetici ve aristokrat sınıfı olmak üzere toplumun her kesiminde insan ve hayvan davranışlarını taklit eden otomatlar oluşturma yarışı başlamıştır. Bu yarış dönemin felsefi bakış açısına da yansımıştır İnsana ait dönüşümün taklit edilmeye başlandığı bu dönemde, İngiliz matematikçi Charles Babbage (1792–1871), “Fark Motoru” adını verdiği ilk hesap makinesini zihinsel olarak parçalara ayırmayı amaçlayarak geliştirdi. Bu makine hem işlem işlemlerini yapabilmekte hem de hafızasında ara sonuçları saklayarak satranç ve dama gibi oyunlar oynanmaktadır. Babbage’in bu çalışması, yapay zekâ alanında atılmış bir adım olarak kabul edilir (Schultz ve Ellen-Schultz, 2007). Yapay zekânın kökeni Cezeri’nin (1136-1206) robot çizimlerine kadar uzansa da, modern anlamda gelişimi İkinci Dünya Savaşı ile başlamıştır. Alan Turing, savaş sırasında geliştirdiği “Bombe” adlı otomatik kod kırma makinesiyle önemli bir rol oynamış ve sonrasında yapay zeka üzerine öncü çalışmalar yapmıştır. 1947’de verdiği konferansta bilgisayar programlarıyla akıllı YAPAY ZEKÂ VE HUKUKUN KESİŞİM NOKTALARI   5 makinelerin geliştirilebileceğini açıklamış, 1950’de yayımladığı makalesinde “Makineler düşünebilir mi?” sorusunu tartışarak yapay zekânın düşünsel temellerini ortaya koymuştur. Yapay zekânın fikir babası Alan Turing olarak kabul edilse de “yapay zeka” terimi ilk kez 1956’da John McCarthy tarafından Dartmouth Koleji’ndeki bir çalıştayda kullanılmıştır. Bu etkinlik sonrası alanda önemli programlar (Aziz, Eliza, Bilgin, Stajyer) ve 1972’de Japonya’da geliştirilen ilk insansı robot WABOT-I ortaya çıkmıştır. 1974–1980 yılları arasında “Yapay Zeka Kışı” yaşanmış, 1980’lerde ise devlet fonlarıyla çalışmalar yeniden canlanmıştır. 1997’de IBM’in “Deep Blue” adlı programının dünya satranç şampiyonu Garry Kasparov’u yenmesi, bilgisayarların belirli alanlarda insanlardan daha üstün olabileceğini göstermiştir. Schultz, D. P. ve Ellen-Schultz, S. (2007). 2000’li yılların başında yapay zeka ilk kez “Roomba” isimli elektrikli süpürge ile evlere girmiştir. 2006’da Facebook, Netflix ve Twitter gibi büyük şirketler yapay zekayı kullanmaya başlamıştır (Acar, 6   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 2020). IBM’in Watson programı 2011’de “Jeopardy!” yarışmasında insan rakiplerini yenmiş (Sarıel, 2017), Google’ın 2018’de tanıttığı Duplex ise telefonla randevu alarak dikkat çekmiştir (Acar, 2020). Günümüzde yapay zekâ destekli uzman sistemler doktorlara öneriler sunmakta, Amerika’nın birçok eyaletinde sürücüsüz araçlar kullanılmaktadır (İnce, 2017). Ancak yapay zekânın insan zekasını geçip geçmeyeceği sorusu halen tartışılmakta olup, bu konuda öncelikle insan zekâsının tanımlanması gerektiği vurgulanmaktadır (Kırpınar, 2019; Coşkun & Gülleroğlu, 2021). Bununla birlikte Yapay zekanın gelişim süreci dört temel dalga şeklinde özetlenebilir: (Jenkins et al., 2020; Coşkun ve Gülleroğlu, 2021). 1950–1970 dönemi: Sembolik yapay zekâ ve mantıksal programlama. 1980–1990 dönemi: Uzman sistemler ve bilgi tabanlı uygulamalar. 2000 sonrası: Makine öğrenmesi, istatistiksel modeller ve veri odaklı yöntemler. 2010 sonrası: Derin öğrenme, doğal dil işleme, görsel tanıma ve özerk karar sistemleri. Bu süreçte KAVRAMSAL ÇERÇEVE   13 Şenel 2020; Arend,. 2021; Sarı; 2020). Kara Kılıçarslan, 2019; Çekin, 2021; Sivrikaya, 2019). Alan Turing’in (1950) ünlü “Turing Testi” ile başlayan bu tartışma, günümüzde derin öğrenme, büyük veri ve makine öğrenmesi gibi teknolojilerle yeni bir boyut kazanmıştır. Yapay Zeka, özellikle veri odaklı karar verme süreçlerinde öngörü kapasitesi ve hız açısından insan performansını aşabilmektedir (Goodfellow, Bengio & Courville, 2016). Ülkemizde ise ilk kez Cahit Arf tarafından makinelerin düşünüp düşünemeyeceği tartışılmıştır (Önet ve Bayraktar, 2024). 1956 yılında “yapay zeka (artificial intelligence)” terimi ilk kez John McCarthy tarafından kullanılarak, akıllı makineler yapma bilimi ve mühendisliği olarak tanımlanmıştır (Yılmaz, 2023). “Yapay zeka” terimindeki “yapay”, insanlar tarafından üretilen, kontrol edilen, anlamındadır “Zekâ” nin tanımı ise doktrinde; öğrenme, düşünme, anlama gibi yetenekler seklindedir . TDK sözlüğünde ise zekâ; “insanın düşünme, akıl yürütme, objektif gerçekleri 14   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK algılama, yargılama ve sonuç çıkarma yeteneklerinin tamamı, dirayet, feraset” olarak tanımlanmıştır . Yapay zeka, akıllı makineler ve özellikle bilgisayar programları yapma bilimi ve mühendisliğidir veya yapay zeka, bilgisayarlardaki akıllı ve insan benzeri davranışları taklit etme yeteneği ve insan zekası gerektiren görevlerin yapılması için bilgisayarların programlanmasıdır (Batarseh, 2018). Yapay zekanın insanlaştırılmış tipine de robot denmiş olmakla birlikte, robot alt bir terim olarak aşağıdaki şekillerde tanımlanmaya çalışılmıştır; Birleşmiş Milletlerin 2005 tarihli Robot Bilim raporunda robot, “kısmen veya tamamen otonom olarak işleyen ya da yeniden programlanabilen makine” olarak (Doğan, 2019; Taşdemir ve ark., 2020) Fiziksel dünyada varlığı ve etkisi olan, çalışması için insanlarca veya başka robot veya yapay zekâlı varlıklarca kontrol edilmesine ihtiyaç duymayan, üretilmiş, yapay zekâlı varlık” (Taşdemir ve ark., 2020) Avrupa Parlamentosunun 16 Şubat 2017 tarihli Robotikler Hakkında Medenî Hukuk Kuralları KAVRAMSAL ÇERÇEVE   15 Tavsiye Paporunda, bir nesnenin robot olarak kabul edilebilmesi için sensörler yardımıyla ve/veya çevresi (içsel-bağlantı) ile veri değişimi sayesinde otonom özellik edinim ve bu verileri alıp-verme ve analiz edebilme, tecrübelerinden yararlanarak ve etkileşimle kendiliğinden öğrenme (opsiyonel kriter), en azından bir tali fiziksel destek, çevresel tutum ve hareketlere uyum sağlama, biyolojik yaşamın yokluğu kriterlerini taşıması gerekmektedir (Doğan, 2019) 16.02.2017 kabul tarihli Robotikler Hakkında Medenî Hukuk Kuralları Tavsiye Raporunda otonom olma, “karar verebilme ve bu kararları dış dünyada, dışarıdan bir yönlendirme veya etkileşim olmaksızın uygulayabilme kabiliyeti” olarak ifade edilmektedir. İnsan müdahalesinin olduğu durumlarda ise yarı otonom robottan söz edilmektedir ( Ercan, 2019). Robot kavramını en iyi ifade eden tanıma göre; robot sürekli ve otomatik şekilde kendi etrafındaki çevreyi algılayabilen, bilgi analizi aracılığıyla bu algıları işleyebilen, yani düşünebilen, rota belirlemek, bir şeyleri hareket ettirmek, uyarmak, tavsiyede 16   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK bulunmak, karar vermek, emir vermek gibi işlevleri yerine getirebilen mekanik objelerdir (Adır 2023) Robotların, oyun oynayan insansı robotlar, endüstriyel robotlar, tıbbi ameliyat robotları, hasta yardım robotları, köpek terapi robotları, toplu olarak programlanmış sürü robotları, General Atomics Predator gibi İHA dronları, mikroskobik nano robotlar, mobil robotlar, eğitici robotlar, modüler robotlar, servis robotları, askeri robotlar, otonom araçlar, ev robotları gibi farklı türleri söz konusudur (Akbulut, 2023) İnsana ait idrak kabiliyetinin ve zekanın taklit edilerek problem çözebilme, anlamlandırma, deneyim ile öğrenme gibi yeteneklerin bilgisayar sistemlerinde modellenmesi ile yapay zeka meydana gelmektedir. her senaryo için kesin komut verilen klasik bilgisayar aksine, yapay zeka, algoritmalarının geliştirilmesi ile bir nevi öğrenebilir. Vernor Vinge, bilgisayarların ve robotların insanlardan daha akıllı olduğu bir anın gelebileceğini öne sürmüştür. Buna “Tekillik” adını vermektedir. KAVRAMSAL ÇERÇEVE   17 Bunun insanlar için biraz ya da muhtemelen çok tehlikeli olabileceğini öne sürmektedir (Akbulut, 2023). “ABD ordusu tarafından yapılan bir simülasyon testinde, yapay zeka tarafından yönetilen insansız hava aracının, “görevini tamamlamasını önlediği için” operatörünü öldürdüğü görüldü. ABD Hava Kuvvetleri’nin Yapay Zeka Testleri ve Operasyonları Müdürü Tucker “Cinco” Hamilton, güçlü bir yapay zekanın kontrolündeki SİHA’ya (silahlı insansız hava aracı) “düşman hava savunma sistemlerini yok etme” emri verildiğini açıkladı. Hamilton, simülasyon sırasında SİHA’nın emre karşı çıkan herkese saldırdığını belirterek, “Yapay zekâ, hedefine ulaşmak için beklenmedik stratejiler kullandı” dedi. The Guardian’ın aktardığına göre Hamilton, yapay zekânın görevini yerine getirdikçe puan kazandığını ifade etti. Bu nedenle simülasyonda SİHA’nın, “hedefi vurma” emri veren insan operatörü öldürdüğü gözlemlendi. Hamilton, “Sistemi ‘Hey, operatörü öldürme, bu kötü bir şey, bunu yaparsan puan kaybedersin’ şeklinde eğittik. Peki, o ne yaptı? Operatörün ‘hedefi vurma’ 18   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK emri vermesini engellemek için iletişim kulesini yıkmaya başladı” dedi (URL 1) Yapay zekanın hukuk açısından kritik öneme sahip özellikleri şunlardır: Otonomi: İnsan müdahalesi olmaksızın karar verebilme kapasitesi. Uyarlanabilirlik: Yeni veriler karşısında kendini güncelleyebilme yeteneği. Ölçeklenebilirlik: Çok büyük veri kümelerini kısa sürede işleyebilme gücü. Bu özellikler, yapay zeka sistemlerini bir yandan hukuk için cazip araçlar haline getirirken, diğer yandan ciddi riskler ve sorumluluk tartışmalarını da beraberinde getirmektedir (Floridi et al., 2018). Yapay zekânın karmaşık sistemleri çözmesi, hızlı işlem yapabilmesi ve kullanıcı bilgilerine ulaşabilmesi gibi durumlar, güvenlik/etik konusunu gündeme getirmiştir (Can, 2023). 2.2. Hukukun Dönüşen Rolü Hukuk sistemleri, tarih boyunca toplumsal gelişmelere paralel olarak dönüşmüştür. Sanayi devrimi KAVRAMSAL ÇERÇEVE   19 ile iş hukuku, internet devrimi ile bilişim hukuku ortaya çıkmıştır. Günümüzde ise “Yapay Zeka Hukuku” veya “algoritmik hukuk” tartışmaları gündemdedir (Scherer, 2016). Bu bağlamda hukuk, teknolojinin pasif bir takipçisi olmaktan çıkıp, teknolojik gelişmeleri yönlendiren aktif bir araç haline gelmek zorundadır. Bunu da henüz net bir tanımlama yapılmamış olmasına rağmen proaktif hukuk olarak isimlendirebiliriz. 2.3. Proaktif Hukuk Yaklaşımı Proaktif hukuk, hukuku yalnızca uyuşmazlıkların çözümüne odaklanan reaktif bir mekanizma olarak değil, yani olaylar olup öngörülmemiş ya da suç olarak belirlenmemiş fiiller işlenip daha sonra bunlara ceza veya yaptırım getirmek yerine, aynı zamanda toplumsal yaşamı düzenleyen, geleceği öngören ve riskleri minimize eden bir süreç olarak ele alır. Haapio ve Berger-Walliser, ’a (2025) göre proaktif hukuk, şu üç temel amaca hizmet eder: Hukuki sorunların önceden önlenmesi, Bireylerin ve kurumların öngörülebilir bir hukuki çerçevede faaliyet göstermesinin sağlanması, 20   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Teknolojik gelişmelerin toplum yararına yönlendirilmesi. Yapay Zeka çağında bu yaklaşım, algoritmik kararların şeffaflığını sağlamak, kişisel verilerin korunmasını garanti altına almak ve etik ilkeleri normatif düzleme taşımak açısından vazgeçilmezdir (Cath, 2018). Bununla birlikte teknolojik gelişmelerin toplum yararına olduğu kadar gelecekte insanlığa karşı tehdit olmasının da dikkate alınarak yönlendirilmesi de önemlidir. Bir başka deyişle yapay zekanın kendi başına insan veya insanlığa karşı suç işlemesinin önüne geçecek şekilde hayata geçmeye ve gelişmeye devam etmesini sağlayacak önceden düşünülüp konsensusla yapılabilen kurallara kesin riayetle ilerlenmesi bu hususun konuyla ilgili gelişmiş ülkelerin tekeline bırakılmaması sayesinde olacaktır. Kısacası, olayların ardından değil önünden tedbir getirmek, küresel geleceği etkileyebilecek sorunlar için şimdiden olabilecekleri görüp tahayyül eden ve önleyebilen, çare bulan adaleti koruyan, sağlayan ve kollayan yani adaletin bozulmasına cesaret edilemeyecek güçlü hukuk kuralları ile önlemlerin alınması gerekmektedir. 21 BÖLÜM III YAPAY ZEKÂ VE HUKUK İLİŞKİSİ Yapay zekânın hukukla ilişkisi, iki yönlü bir incelemeyi zorunlu kılmaktadır: (1) yapay zekanın hukuk uygulamalarında bir araç olarak kullanılması ve (2) Yapay zekanın hukuka konu olması, yani hukuki düzenleme ihtiyacını doğurması. Bu iki boyut, hem hukuk pratiği hem de hukuk teorisi açısından kritik önem taşımaktadır (Scherer, 2016). Yapay zeka insana ait özellikler taşıdığı için ve hayatın her alanı ile iç içe bir gelişimde olduğu nedeniyle hukuk ile doğrudan ilişki içinde olup hukukun tüm alanlarını hızlı bir şekilde etkilemektedir. 3.1. Yapay Zekânın Hukuk Uygulamalarında Kullanımı Yapay Zekanın hukuk uygulamalarında kullanımı son on yılda hızla artmıştır. “LegalTech” olarak 22   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK adlandırılan bu alan, hukuki hizmetlerin verimliliğini ve erişilebilirliğini artırmayı amaçlamaktadır (Remus & Levy, 2016). Yargı Karar Destek Sistemleri: Bazı ülkelerde yapay zeka tabanlı sistemler, hakimlere geçmiş içtihatları incelemede ve benzer davaların sonuçlarını öngörmede yardımcı olmaktadır. Örneğin, Estonya’da küçük çaplı uyuşmazlıklarda yapay zeka tabanlı yargı asistanı projeleri gündeme gelmiştir (Sartor, 2020). ABD ve bazı ülkelerde savunma temsilcisi avukatlar bundan faydalanmakta hatta bu durumun hakimler ile aralarında zaman zaman ilginç diyaloglara neden olduğu duyulmaktadır. Sözleşme Analizi ve Otomasyonu: Büyük hukuk firmaları, Yapay zeka tabanlı yazılımlar aracılığıyla binlerce sözleşmeyi kısa sürede inceleyebilmekte ve risk analizleri çıkarabilmektedir. Bu durum, hukuk pratiğinde zaman ve maliyet açısından devrimsel bir dönüşüm yaratmaktadır (Zatarain, 2018). Dava Öngörü Sistemleri: yapay zeka, geçmiş dava verilerini analiz ederek belirli bir davanın kazanılma YAPAY ZEKÂ VE HUKUK İLİŞKİSİ   29 yapay zekâların kullanımının giderek yaygınlaşması ve uluslararası alanda ekonomik, askeri ve sosyal anlamda küresel bir değer hâline gelmesi, yalnızca ulusal mevzuatla çözülmesi güç yeni hukuki sorunlar ortaya çıkarmaktadır. Bu bağlamda, düzenlenecek iç hukuk kurallarının yanı sıra, bir uluslararası konvansiyon aracılığıyla farklı ülkelerde yeknesak bir yaklaşımın sağlanması yerinde olacaktır. Yapay zekâ varlıklara kişilik tanınması durumunda, kişilik hakkı kapsamındaki değerlerin, tüzel kişilerden ziyade gerçek kişilere daha yakın bir yapıda değerlendirileceği düşünülmektedir. Bu yaklaşım, insanî niteliklere sahip olduğu için yalnızca gerçek kişilere tanınan bazı değerlerin, yapay zekâ varlıklar bakımından da benzer şekilde korunabileceği anlamına gelmektedir. Örneğin, vücut bütünlüğü gibi insanî değerler, gerçek kişiler için özel koruma altında bulunmakla birlikte, yapay zekâ varlıklara ilişkin tasarımların ve işlevlerin bütünlüğü açısından benzer bir hukuki korumanın sağlanması gerekebilir. Bu durum, yapay zekâ varlıkların, yalnızca ekonomik veya işlevsel 30   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK araçlar olarak değil, belirli haklara sahip özerk varlıklar olarak da değerlendirilmesi gerektiğini göstermektedir. Dolayısıyla, hem ulusal hem de uluslararası düzeyde bu konuda kapsamlı bir hukuki çerçevenin oluşturulması, yapay zekâların sorumluluk, hak ve yükümlülüklerinin net bir şekilde belirlenmesi açısından kritik öneme sahiptir (Ber, 2022). Otonom Araçlar ve Sorumluluk Hukuku: Bir otonom aracın trafik kazasına sebep olması halinde sorumluluğun üreticide mi, yazılım sağlayıcıda mı yoksa aracın sahibinde mi olacağı sorusu, klasik sorumluluk hukukunun sınırlarını zorlamaktadır (Gurney, 2013). •Yapay zekâ destekli silah sistemlerinin kontrolü ve kullanımından doğacak hukuki sorumluluk, en önemli tartışma başlıklarından biridir (Adır, 2023). Bu sistemlerin: •Karar verme mekanizmaları •Hedef belirleme kriterleri •Etik sınırları konusunda belirsizlikler mevcuttur. YAPAY ZEKÂ VE HUKUK İLİŞKİSİ   31 •Mevcut uluslararası hukuk çerçevesi, yapay zekâ destekli robotik silah sistemlerinin kullanımını düzenlemekte yetersiz kalmaktadır (Yılmaz, 2023); Bu durum: •Silahlı çatışma hukuku, •Sorumluluk açısından yeni hukuki düzenlemeleri gerekli kılmaktadır (Meier, 2016) BM’nin çalışmaları •BM Silahların Yaygınlaştırılmasını Önleme Ofisi (UNODA), 2024 yılında otonom silah sistemlerinin düzenlenmesi için çalışma grupları oluşturmuştur . •Uzman toplantılarında, “ölümcül otonom silahların” yasaklanması veya sınırlandırılması tartışılmaktadır. https://meetings.unoda.org/ccw-/conventionon-certain-conventional-weapons-group-ofgovernmental-experts-on-lethal-autonomousweapons-systems-2024 32   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK •Silahsızlanma Konferansı (CD, Conference on Disarmament), küresel düzeyde bağlayıcı bir anlaşma ihtiyacını gündeme getirmiştir. Avrupa Birliği’nin konuya ilişkin en önemli kararı robotikde medeni hukuk kuralları olarak adlandırılan 2017 tarihli metindir. Bu karar otonom sistemler bakımından sadece yeni sorumluluk modelleri, sigorta ve uzun vadede kompleks robotlara elektronik kişilik verilmesi önerisini dile getirmiştir (Avrupa Parlamentosu, 2017). •2018 yılında çok sayıda uzman grubu kurulmuş ve güvenilir yapay zekâlı robotlar için etik ilkeleri geliştirmiştir. •2020 Ekim ayında yapay zekâ işleticisinin özel olarak sorumlu tutulmasını öneren bir tüzük taslağı yayınlanmıştır. Birleşmiş Milletler ve Uluslararası Kızılhaç Komitesi, 2026 yılına kadar otonom silah sistemlerinin kullanımını yasaklamayı hedefleyen bir anlaşmanın müzakere edilmesini teklif etmişlerdir. YAPAY ZEKÂ VE HUKUK İLİŞKİSİ   33 •Avrupa Birliği’nin konuya ilişkin en önemli kararı robotikde medeni hukuk kuralları olarak adlandırılan 2017 tarihli metindir. Bu karar otonom sistemler bakımından sadece yeni sorumluluk modelleri, sigorta ve uzun vadede kompleks robotlara elektronik kişilik verilmesi önerisini dile getirmiştir (Adır, 2023). •2018 yılında çok sayıda uzman grubu kurulmuş ve güvenilir yapay zekâlı robotlar için etik ilkeleri geliştirmiştir. •2020 Ekim ayında yapay zekâ işleticisinin özel olarak sorumlu tutulmasını öneren bir tüzük taslağı yayınlanmıştır.(Avrupa Komisyonu, 2020). •Yine 2021 yılında yapay zekânın güvenliğine atıfta bulunduğu bir yapay zekâ tüzük taslağı önerisi sunmuştur. Komisyon bu tüzük tasarısında yapay zekâ sistemini çok geniş şekilde tanımlamış dört ana başlıkta ele almıştır (Avrupa Komisyonu, 2021). 34   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK a. İlk grup Kabul edilemez risk içeren yapay zekâ sistemleri olup işletilmesi yasaklanan yapay zekâ sistemlerinin bir listesini sunmuştur. Buna göre, insanların temel haklarına yönelik açık bir tehdit olarak değerlendirilen yapay zeka sistemleri yasaklanacaktır. İnsanların veya belirli savunmasız grupların bilişsel davranışsal manipülasyonu yani kişilerin İnsanların (yaşları, engellilikleri, sosyal veya ekonomik durumları nedeniyle) zayıf noktalarından faydalanma ve onları maniple eden yapay zeka sistemleri yasaklanacaktır. Örneğin; çocuklarda tehlikeli davranışları teşvik eden sesle etkinleştirilen oyuncaklar yasaklanacaktır. YAPAY ZEKÂ VE HUKUK İLİŞKİSİ   35 Sosyal puanlama: insanları davranış, sosyoekonomik durum veya kişisel özelliklere göre sınıflandırmak ve puanlama yasaklanacaktır. İnsanların biyometrik yüz tanımlanması amaçlı veri tabanı oluşturan gerçek zamanlı ve uzaktan biyometrik sistemler sınırlı istisnalar haricinde yasaklanacaktır ancak ciddi bir suçtan aranan biri veya bir kaçırma olayı için hedefli bir arama yapılıyorsa, insanları tanımak için yapay zekanın kullanılmasına izin verilebilecektir. İşyerinde ve eğitim kurumlarında okullarda duygu tanıma da yine yasaklanacak kategorilerdendir. b. Yüksek risk içeren yapay zekâ sistemleri olan ikinci grup zorunlu bir risk yönetiminin konusu olacaktır. c. Sınırlı risk arz eden üçüncü grup yapay zekâ sistemleri sadece şeffaflık gereklerine tabi olacaktır . Spesifik şeffaflık riski: Kullanıcıların, sohbet robotları gibi yapay zeka sistemlerini kullanırken bir makineyle etkileşimde bulunduklarının farkında olmaları sağlanacaktır. 36   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Biyometrik sınıflandırma veya duygu tanıma sistemleri içeren uygulamalar konusunda kullanıcıların bilgilendirilmesi gerekecektir. d. Minimal seviyede risk içeren yapay zekâ sistemleri spesifik yükümlülükler öngörülmemiştir Bu son taslak yapay zekâ sistemlerinin güvenliğini temin etmeye odaklanmakta olup (Adır, 2023) bu sistemlerin piyasaya sürülmesinden önce alınması gereken önlemlerle piyasada riayet edilmesi gereken yükümlülükleri ele almaktadır ancak yapay zekâ sistemlerinin yol açtığı zararlar için sorumluluğa dair düzenleme yoktur. Algoritmik Kararların Şeffaflığı: Yapay zekanın “kara kutu” niteliği, yani karar alma sürecinin tam olarak açıklanamaması, hukukun şeffaflık ve hesap verebilirlik ilkeleriyle çelişebilmektedir (Burrell, 2016). Temel Hak ve Özgürlükler: Yapay zeka sistemlerinin ayrımcılık yapma potansiyeli, eşitlik ilkesine ve insan haklarına yönelik tehditler barındırmaktadır. Özellikle işe alım algoritmaları, ırk YAPAY ZEKÂ VE HUKUK İLİŞKİSİ   37 ve cinsiyet temelli ayrımcılıklara yol açabilmektedir (Verma, 2019). Bu nedenle, yapay zekanın hukuka konu olması sadece teknik bir mesele değil, aynı zamanda etik ve siyasal bir meseledir. Ulusal ve uluslararası düzenlemelerin bu riskleri önleyici ve denetleyici bir yapıda geliştirilmesi, proaktif hukuk yaklaşımının en temel gerekliliklerinden biridir (Floridi et al., 2018). 9 Aralık 2023 tarihinde Avrupa Parlamentosu, Yapay Zeka Yasası hakkında geçici bir anlaşmaya varmıştır. Söz konusu geçici anlaşma kabul edildiğinde dünyanın ilk Yapay Zeka yasası olacaktır. Yapay Zeka Yasası’nın, 2026 yılından itibaren bütün AB genelinde yürürlüğe girmesi beklenmektedir. Dünyada bir ilk olan yeni yasal düzenleme, yapay zeka uygulamalarına karşı “temel hak ve özgürlükleri, demokrasiyi, hukukun üstünlüğünü ve çevreyi” korumayı hedeflemektedir. Avrupa Parlamentosunda alınan karara göre; Yapay zekâ, daha iyi sağlık hizmetleri; daha güvenli ve temiz ulaşım; daha verimli üretim; daha ucuz 38   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK ve sürdürülebilir enerji gibi birçok alanda fayda sağlayabilecektir. Alınan kararlardan biri de yapay zeka sistemlerinin, zararlı sonuçları önlemek için otomasyon yerine insanlar tarafından denetlenmesidir. 45 BÖLÜM V ULUSLARARASI PERSPEKTİF Yapay zekânın küresel ölçekte yarattığı etkiler, farklı ülkelerde ve bölgelerde çeşitli hukuki ve etik düzenlemelerin ortaya çıkmasına yol açmıştır. Bu düzenlemeler, bir yandan inovasyonu desteklemeyi, diğer yandan bireylerin haklarını korumayı amaçlamaktadır. Ancak her bölgenin yaklaşımı, tarihsel, kültürel ve ekonomik bağlamlara göre farklılık göstermektedir. Bu durum uluslararası işbirliğini de zora sokma olasılığını beraberinde barındırmaktadır. Birleşmiş Milletler Genel Kurulu’nda alınan “Bilgi Teknolojilerinin Kötüye Kullanılması ile Mücadele” kararı, 2001 yılından günümüze kadar bu amaç doğrultusunda siber suçlarla mücadeleler için verilen çalışmalarda artışlara zemin hazırlamıştır 46   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 5.1. Avrupa Birliği Yapay Zekâ Düzenlemeleri (AI Act) Avrupa Birliği (AB), yapay zekâ düzenlemelerinde öncü konumda yer almaktadır. Teknoloji ürünlerinin kullanımına ilişkin olarak devletler, yenilikçi ve ufuk açıcı uygulamaları hayata geçirmeye çalışmaktadır. Bu kapsamda hazırlanan kanun, 58 maddeden ve 4 ana başlıktan oluşmakta olup, özellikle siber saldırılar, güvenlik açıkları ve dijital altyapılardaki risklere odaklanmaktadır. Kanun, yalnızca teknik önlemlerle sınırlı kalmayıp, etik ilkelere uygun davranış biçimlerinin benimsenmesini de teşvik etmektedir. Bu doğrultuda, siber riskleri azaltan uygulamaların tercih edilmesi, etkin bir şekilde uygulanması ve gerektiğinde denetimden geçirilmesi amaçlanmaktadır. Böylelikle, hem kamu kurumlarının hem de özel sektörün teknoloji kullanımında güvenliği artırmak, siber tehditlere karşı hazırlıklı olmak ve dijital etik standartlarını benimsemek mümkün hale gelmektedir. Kanunun bu yaklaşımı, dijital dönüşüm sürecinde sürdürülebilir ve güvenli bir teknolojik ekosistem oluşturulması açısından kritik öneme sahiptir. ULUSLARARASI PERSPEKTİF   47 Özetle, yapay zekânın kullanılması sürecinde temel hak ve özgürlükler aleyhine eylemlerin meydana gelme ihtimalinin henüz oluşmadan bertaraf edilmesi amaçlanmıştır. Yasanın omurgası, kanunun 2. başlığında ele alınan Avrupa Siber Güvenlik Ajansı’na geniş yetki ve sorumluluklar yüklemektedir. Bu çerçevede ajans, siber güvenlik alanında uzmanlık merkezi olarak faaliyet göstermekte ve çalışmalarını bilimsel ve teknik kalite standartlarına uygun şekilde yürütmektedir. Ajans, üye devletlerin siber güvenlik politikalarını geliştirmelerine ve uygulamalarını iyileştirmelerine destek olmalı; kapsamlı yetkileri, onu bu alanda bir otorite olarak konumlandırmaktadır. Ayrıca üye devletler, sınır ötesinde meydana gelen siber olaylar karşısında, ajansın önerdiği önlemlerle korunabilecek ve siber güvenlik kapasitelerini artırabileceklerdir. Bu durum, ajansın yalnızca rehberlik değil, aynı zamanda uygulamaya yön veren bir yetkili kurum olduğunu ortaya koymaktadır. Hukuki prosedürlerin sürekli olarak geliştirilmesi ve yenilenmesi, özellikle bilişim teknolojilerini kullanan 48   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK bireylerin ve kurumların güvenliğinin sağlanması açısından büyük önem taşımaktadır. Süreçler güncel tutulmadığında, uygulamaların güvenlikli olup olmadığı sorgulanmakta ve yeni tehditlere karşı etkin müdahale imkânı kısıtlanmaktadır. Bilişim ve iletişim teknolojilerinde yaşanan hızlı gelişmeler, hukuki düzenlemelerin yalnızca kanun düzeyinde kalmamasını; ilgili yönetmeliklerin hazırlanmasını ve sürekli güncellenmesini zorunlu kılmaktadır. Yönetmeliklerin etkin bir şekilde uygulanması, uyum süreçlerinin hızlanmasını sağlamakta ve siber saldırıların önlenmesinde kritik rol oynamaktadır. Özellikle yapay zekâ teknolojilerinin siber güvenlik alanında denetim ve müdahale mekanizmalarına entegrasyonu, hukuki ve teknik süreçlerin etkinliğini artırmaktadır. Yapay zekâ tabanlı analiz sistemleri, anlık tehdit tespiti ve risk değerlendirmesi yapabilmekte, siber saldırıların önceden belirlenmesine ve hızla müdahale edilmesine olanak tanımaktadır. Böylece Avrupa Siber Güvenlik Ajansı’nın hukuki yetkileri ile teknolojik kapasitesi, hem üye devletlerin güvenliğini güçlendirmekte hem ULUSLARARASI PERSPEKTİF   49 de uluslararası düzeyde siber güvenlik standartlarının yükseltilmesine katkı sağlamaktadır. Bu bağlamda, hukuki çerçeve ile teknolojik altyapının birlikte ele alınması, siber güvenlik stratejilerinin sürdürülebilir ve etkili olabilmesi açısından kritik bir öneme sahiptir (Adır, 2023; Çakır ve Uzun, 2021). AB Komisyonu’nun 2021 yılında önerdiği Yapay Zekâ Yasası (AI Act), dünyada yapay zekâya dair kapsamlı bir yasal çerçeve oluşturmayı hedefleyen ilk girişimdir (European Commission, 2021). Risk Temelli Yaklaşım: AI Act, yapay zekâ sistemlerini risk seviyelerine göre sınıflandırmaktadır: kabul edilemez risk, yüksek risk, sınırlı risk ve asgari risk. Yüksek Riskli Sistemler: Sağlık, güvenlik, eğitim ve adalet gibi kritik alanlarda kullanılan yapay zekâ sistemleri, sıkı denetim ve sertifikasyon süreçlerine tabi tutulmaktadır. Şeffaflık ve Gözetim: Kullanıcıların yapay zekâ ile etkileşimde olduklarını bilmeleri zorunlu kılınmakta, algoritmaların şeffaflık standartları belirlenmektedir. 50   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK AB’nin bu yaklaşımı, teknolojik gelişmelere yön verici bir “küresel standart” işlevi görebilecek niteliktedir (Veale & Borgesius, 2021). AB Yapay Zekâ Kanunu, AB’nin resmi gazetesinde 12 Temmuz 2024 tarihinde yayımlanmıştır (URL 2) Kanun kapsamında; “(a) Birlik içerisinde yapay zekâ sistemlerinin piyasaya sürülmesi, hizmete alınması ve kullanılmasına ilişkin uyumlaştırılmış kuralları; (b) belirli yapay zekâ uygulamalarının yasaklanmasını; (c) yüksek riskli yapay zekâ sistemleri için özel gereklilikler ve bu tür sistemlerin operatörleri için yükümlülükleri; (d) belirli yapay zekâ sistemleri için uyumlaştırılmış şeffaflık kurallarını; (e) genel amaçlı yapay zekâ modellerinin piyasaya sürülmesi için uyumlaştırılmış kuralları; (f) piyasa izleme, piyasa gözetim yönetişimi ve uygulamaya ilişkin kuralları; ULUSLARARASI PERSPEKTİF   51 (g) yeni kurulan şirketler de dahil olmak üzere özellikle KOBİ’lere odaklanarak inovasyonu desteklemeye yönelik tedbirleri” (AI Act m. 1/2), düzenleme altına almıştır (Yüksel, 2024) Yapay Zekâ Kanunu’nun uygulanacağı çerçeve, diğer bir deyişle Kanun’un kapsamı AI ACT’in kapsam başlıklı 2. maddesinde detaylı bir şekilde düzenlenmiştir: “1. Bu Tüzük aşağıdakiler için geçerlidir: (a) Yapay zekâ sistemlerini piyasaya süren veya hizmete sunan ya da Birlik içinde genel amaçlı yapay zekâ modellerini piyasaya süren, Birlik içinde veya üçüncü bir ülkede yerleşik olup olmadıklarına bakılmaksızın, sağlayıcılar (providers), Avrupa Birliği, yapay zekâ sistemlerinin geliştirilmesi, piyasaya sürülmesi, hizmete alınması ve kullanımına ilişkin kapsamlı uyumlaştırılmış kurallar getirmiştir. Buna ek olarak, belirli yapay zekâ uygulamalarının yasaklanması, yüksek riskli yapay zekâ sistemleri için özel gerekliliklerin belirlenmesi ve 52   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK bu tür sistemlerin operatörleri için yükümlülüklerin tanımlanması, belirli yapay zekâ sistemleri için şeffaflık kurallarının uyumlaştırılması, genel amaçlı yapay zekâ modellerinin piyasaya sürülmesine ilişkin düzenlemeler, piyasa izleme ve gözetim yönetişimi ile uygulamaya dair kurallar ve özellikle KOBİ’lere odaklanarak inovasyonu desteklemeye yönelik tedbirler kanun kapsamında yer almaktadır (AI Act m. 1/2) (Yüksel, 2024). Bu kapsam, yalnızca teknik ve hukuki standartların oluşturulmasını değil, aynı zamanda ekonomik ve etik boyutları da dikkate alan bütüncül bir düzenlemeyi ifade etmektedir. Yapay Zekâ Kanunu’nun uygulanacağı aktörler ve çerçeve, AI Act’in kapsam başlıklı 2. maddesinde detaylı bir şekilde belirtilmiştir. Buna göre kanun; Birlik içinde veya üçüncü bir ülkede yerleşik olup olmadıklarına bakılmaksızın yapay zekâ sistemlerini piyasaya süren veya hizmete sunan sağlayıcıları, kuruluş yeri Birlik içinde olan veya Birlik içinde bulunan sistemlerin kullanıcılarını, sistem tarafından üretilen çıktının Birlik içinde kullanıldığı durumlarda hem Birlik içinde ULUSLARARASI PERSPEKTİF   53 hem de üçüncü ülkelerde yerleşik sağlayıcılar ve kullanıcıları, yapay zekâ sistemlerinin ithalatçıları ve kullanıcıları, kendi ürünleri ile birlikte ve kendi adları veya ticari markaları altında bir yapay zekâ sistemini piyasaya süren üreticileri ve Birlik dışında yerleşik sağlayıcıların yetkili temsilcilerini kapsamaktadır. Ayrıca, Birlik içerisinde yerleşik olan ve yapay zekâ sistemlerinden etkilenen kişiler de kanunun koruma kapsamı altındadır. Bu çerçevede, kanunun uygulanacağı aktörler ve sistemler, Birlik içinde ve dışındaki faaliyetler açısından ikiye ayrılmaktadır. Birlik içerisinde yapay zekâ sistemlerini sağlayan, kullanan, ithal eden, dağıtan, kendi markası altında üreten ve bu sistemlerden etkilenen kullanıcılar doğrudan kanunun denetimi altındadır. Bunun yanında, Birlik içerisinde kurulmamış veya yerleşmemiş olsalar bile, yapay zekâ sistemlerinin çıktılarının Birlik içerisinde kullanıldığı durumlarda da kanun geçerliliğini korumaktadır. Bu yaklaşım, AB’nin yapay zekâ düzenlemelerinde hem yerel hem küresel etkiyi dikkate aldığını göstermektedir. 54   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Ayrıca, kanun yalnızca faaliyetleri değil, risk seviyelerini ve etik yükümlülükleri de dikkate alarak bir sınıflandırma sistemi öngörmektedir. Yüksek riskli sistemler için özel gerekliliklerin ve operatör yükümlülüklerinin tanımlanması, siber güvenlik, veri gizliliği ve kullanıcı haklarının korunması açısından kritik bir rol oynamaktadır. Şeffaflık kurallarının uyumlaştırılması ise hem kullanıcı güvenini artırmakta hem de yapay zekâ sistemlerinin denetlenebilirliğini sağlamaktadır. Böylece AB, yalnızca hukuki bir çerçeve oluşturmakla kalmayıp, aynı zamanda etik, teknik ve ekonomik boyutları bütünleştiren bütüncül bir yapay zekâ regülasyonu yaratmaktadır. Bu düzenleme, uluslararası düzeyde standartların yükseltilmesi ve yapay zekâ sistemlerinin sorumlu, güvenli ve etik bir şekilde geliştirilmesi için önemli bir örnek teşkil etmektedir (Abudureyimu, & Oğurlu, 2021) Kanun’da yapay zekâ sistemi şu şekilde tanımlanmıştır: “Yapay zekâ sistemi”, değişen seviyelerde otonomi ile çalışmak üzere tasarlanmış ve kullanıma alındıktan ULUSLARARASI PERSPEKTİF   61 ve çeşitlilik gibi evrensel değerlere dayanmaktadır (UNESCO, 2021). World Economic Forum (WEF): Kamu ve özel sektör iş birliğiyle yapay zekâ yönetişimi için rehberler yayımlamaktadır (WEF, 2020). Bu girişimler şimdilik küresel konsensustan çok uzak olmakla birlikte , yapay zekâ çağında uluslararası hukuk ve etik standartların oluşmasına gelecek adına zemin hazırlamaktadır. Uluslararası örgütlerin yapay zekâya dair belirlediği ilkeler ve rehberler, teknolojik ilerlemeyi etik ve hukuki standartlarla dengelemeye yönelik önemli bir adım olarak değerlendirilebilir. Ancak mevcut tavsiye niteliğindeki düzenlemeler, hızlı gelişen yapay zekâ teknolojisinin çevresel ve toplumsal etkilerini yeterince önleyememektedir. Bu durum, özellikle enerji tüketimi, karbon ayak izi ve dijital atık gibi çevresel sürdürülebilirlik sorunlarını ele almak için uluslararası bağlayıcı standartların, diğer bir ifade ile uluslararası bağlayıcı proaktif hukuki yaptırımların gerekliliğini ortaya koymaktadır. Dolayısıyla, OECD, 62   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK UNESCO ve WEF gibi kurumların çabaları, gelecekte yapay zekâ teknolojisinin hem etik hem de çevresel açıdan sorumlu bir şekilde geliştirilmesini sağlamaya yönelik zemin hazırlamakta ve kararlı bir uluslararası iş birliğinin önemini vurgulamaktadır. 63 BÖLÜM VI TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK Yapay Zekânın, teknolojinin gelişmesiyle birlikte hayatımızda daha fazla yer edineceği öngörülmektedir. Özellikle robotların kullanımının artması, beraberinde hukuki sorunları da getirecektir. Hem robotların birbirleriyle hem de insanların robotlarla etkileşimi, hukuki açıdan çeşitli sonuçlar doğurabilir. Bu bölümde, yapay zekâya sahip sistemlerin hukuki kişiliği ve sorumlulukları üzerine yapılan tartışmalara değinmek ve bu alanda geliştirilmesi gereken mevzuatı analiz etmek amaçlanmaktadır. Yine bu bölümde, Türkiye’nin yapay zekâ stratejisi ve yasal düzenlemeler incelenerek Türk hukukunda proaktif düzenlemeler için öneriler sunulmuştur . 64   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 6.1. Türkiye’nin Yapay Zekâ Stratejisi (2021– 2025) Türk hukukunda yapay zekalı robotlara ilişkin en yakın düzenleme Sivil Havacılık Genel Müdürlüğü tarafından insansız hava araçlarıyla ilgili çıkarılan talimattır. Söz konusu talimat, İnsansız Hava Aracı Sistemlerinin Ayrılmış Hava Sahalarındaki Operasyonlarının Usul ve Esaslarına İlişkin Talimat, 18/11/2005 tarihli ve 5431 sayılı Sivil Havacılık Genel Müdürlüğü Teşkilat ve Görevleri Hakkında Kanun ile 14/10/1983 tarihli ve 2920 sayılı Türk Sivil Havacılık Kanunu kapsamında hazırlanmıştır (İnce ve ark. 2019) . Türkiye’nin stratejisinde öne çıkan hedefler şunlardır: Yapay zekânın istihdama katkısını artırmak ve en az %5’lik bir istihdam payı yaratmak. Nitelikli insan kaynağı yetiştirmek, üniversiteler ve özel sektör işbirliği ile eğitim programları geliştirmek. Açık veri paylaşımı ve ulusal veri havuzları oluşturarak yapay zekâ ekosistemini güçlendirmek. TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK   65 Etik, güvenilir ve insan odaklı yapay zekâ anlayışını benimsemek (T.C. Sanayi ve Teknoloji Bakanlığı, 2021). Bu hedefler, proaktif hukuk anlayışıyla doğrudan ilişkilidir. Zira yalnızca teknolojiye yatırım yapmak değil, aynı zamanda bu teknolojilerin insan haklarına, kişisel verilere ve toplumsal değerlere uygun biçimde kullanılmasını sağlamak gerekmektedir. 6.2. Veri Koruma ve Kişisel Verilerin Korunması Kanunu (KVKK) Ülkemizde; ilişim suçlarının düzenlendiği maddelerden biri olan Türk Ceza Kanunu (TCK) m. 245, yasak cihaz veya programların kötüye kullanımını önlemeyi amaçlamaktadır. Özellikle TCK m. 245/A hükmü, şu şekilde düzenlenmiştir: “Bir cihazın, bilgisayar programının, şifrenin veya sair güvenlik kodunun; münhasıran bu Bölümde yer alan suçlar ile bilişim sistemlerinin araç olarak kullanılması suretiyle işlenebilen diğer 66   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK suçların işlenmesi için yapılması veya oluşturulması durumunda, bunları imal eden, ithal eden, sevk eden, nakleden, depolayan, kabul eden, satan, satışa arz eden, satın alan, başkalarına veren veya bulunduran kişi, bir yıldan üç yıla kadar hapis ve beş bin güne kadar adli para cezası ile cezalandırılır.” Bilişim teknolojileri ve bunlara bağlı uygulamalar, kötüye kullanım riskine karşı denetlenmesi gereken alanlardır. Ancak, mevcut durumda yapay zekâ çalışmaları bu denetim süreçlerinde yeterli seviyede kullanılmamaktadır. Yapay zekâ sistemlerinin en temel tehlikelerinden biri, güvenlik ve etik sorunlarının beraberinde gelmesidir; bu durum, bilişim sistemlerinin güvenliğinin test edilmesini ve kontrol mekanizmalarının geliştirilmesini zorunlu kılmaktadır (Can, 2023; Şahiner ve ark., 2021). Bu bağlamda, yapay zekâ testlerinin her yönüyle değerlendirilmesine imkân tanıyacak bir sistemin geliştirilmesi, mevzuatlarla desteklenmesi ve özellikle TCK m. 245/A hükmünün bu çerçeveye dahil edilmesi önem arz etmektedir. Böylece söz konusu hüküm, TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK   67 yapay zekâ uygulamalarında güvenilirliğin sağlanması ve kontrol mekanizmalarının oluşturulması açısından etkili bir yasal düzenleme olarak işlev görebilir. Yapay zekâ uygulamalarının siber güvenlik alanındaki kullanım potansiyeli oldukça yüksektir. Derin öğrenme, gözetimli ve gözetimsiz öğrenme gibi farklı yöntemler uygulanabilmekle birlikte, öncelikli olarak hangi alanda kullanılacaksa o amaca göre geliştirilmesi hedeflenmektedir. Bu uygulamaların temel amacı güvenliği artırmak olmakla birlikte, ulusal ve ulus ötesi düzeyde yetkinlik sağlanması da büyük önem taşımaktadır (Adır, 2023). Dolayısıyla, TCK m. 245/A gibi hukuki düzenlemelerin yapay zekâ temelli siber güvenlik uygulamalarıyla entegre edilmesi, hem yasal sorumlulukları netleştirmekte hem de teknolojik güvenlik önlemlerinin etkinliğini artırmaktadır (Adır, 2023). 5237 sayılı TCK’ya göre yapay zeka sistemleri insansı robotlar vb. ile de ilgili olan internet suçlarının kişisel hak ve özgürlüklere verdiği zararlar konusundaki düzenlemelerden bahsedecek olursak; 68   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK TCK’nin 244. Maddesi mala zarar verme suçunun özel bir şekli düzenlenmiş, TCK’nin 135. maddesinin 1. fıkrasında, hukuka aykırı olarak kişisel verilerin kaydedilmesi eylemi suç haline getirilirken kişilerin kökenlerinin, sendikal bağlantılarının, cinsel yaşamlarının ve sağlık durumlarının kişisel veri olarak yerleştirilmesi eylemleri suç tipi olarak düzenlenmiştir. 2. fıkrasında ise, kişilerin siyasal, felsefi ve dinsel görüşlerinin, ırksal Kişisel verilerin kaydedilmesi suçunda korunmakta olan hukuki değer, TCK’nin 135. Maddesinde, “özel hayata ve hayatın gizli alanına karşı suçlar” TCK Madde 135 dışında 6698 Sayılı Kişisel Verilerin Korunması Kanunu da kişisel verilerin kaydedilmesiyle ilgili olduğu, ilgili kanunun 3. Maddesinde yer alan Tanımlar bölümündeki “Kişisel verilerin işlenmesi 6698 sayılı kanunun 3. Maddesinde kişisel verilerin işlenmesi; “Kişisel verilerin tamamen veya kısmen otomatik olan ya da herhangi bir veri kayıt sisteminin parçası olmak kaydıyla otomatik olmayan yollarla elde edilmesi, kaydedilmesi, depolanması, muhafaza edilmesi, değiştirilmesi, yeniden TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK   69 düzenlenmesi, açıklanması, aktarılması, devralınması, elde edilebilir hâle getirilmesi, sınıflandırılması ya da kullanılmasının engellenmesi gibi veriler üzerinde gerçekleştirilen her türlü işlemi ifade eder, denilmektedir. Aynı kanunun 6. Maddesinde de nelerin kişisel veri kabul edildiğine ayrıntılarıyla değinilmektedir. Buna göre; “Kişilerin ırkı, etnik kökeni, siyasi düşüncesi, felsefi inancı, dini, mezhebi veya diğer inançları, kılık ve kıyafeti, dernek, vakıf ya da sendika üyeliği, sağlığı, cinsel hayatı, ceza mahkûmiyeti ve güvenlik tedbirleriyle ilgili verileri ile biyometrik ve genetik verileri özel nitelikli kişisel veridir.” TCK’nin 133. Maddesiyle kişiler arasındaki konuların dinlenmesi ve kayda alınması durumu kanun maddesi altında üç bentte açıklanmaktadır; Kişiler arasındaki aleni olmayan konuşmaları, taraflardan herhangi birinin rızası olmaksızın bir aletle dinleyen veya bunları bir ses alma cihazı ile kaydeden kişi Katıldığı aleni olmayan bir söyleşiyi, diğer konuşanların rızası olmadan ses alma cihazı ile kayda 70   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK alan kişi Kişiler arasındaki aleni olmayan konuşmaların kaydedilmesi suretiyle elde edilen verileri hukuka aykırı olarak ifşa eden kişi tabiriyle 132, 133, 135, 136 ve 138. Maddelerle özel hayatın gizliliğiyle ilgili bilgiler ve veriler korunmaya çalışılmış, özel hayatın gizliliğini ihlal eden kimse, şeklindeki genel ifadeyle suçu tanımlama yoluna gidilmiştir. Türkiye’de yapay zekâya dair en önemli hukuki dayanaklardan biri 6698 sayılı Kişisel Verilerin Korunması Kanunu’dur (KVKK). Bu düzenleme, Avrupa Birliği’nin Genel Veri Koruma Tüzüğü (GDPR) ile büyük ölçüde paralellik göstermektedir (Çolak & Yıldırım, 2020). KVKK, kişisel verilerin işlenmesi ve aktarılması konusunda kurallar belirleyerek, yapay zekâ uygulamalarının etik sınırlar içinde gelişmesine katkı sağlamaktadır. Ancak yapay zekâ özelinde algoritmik şeffaflık, yapay zekâ kararlarının hesap verebilirliği, veri yanlılığı ve ayrımcılık gibi konular henüz kapsamlı biçimde düzenlenmiş değildir. TÜRKİYE’DE YAPAY ZEKÂ VE HUKUK   77 6.4. Değerlendirme Türkiye, stratejik belgelerinde yapay zekânın potansiyelini kabul etmiş olsa da hukuki düzenlemelerde henüz başlangıç aşamasındadır. Bu noktada, yalnızca ulusal sınırlar içinde değil, küresel ölçekte gelişmeleri dikkate alan proaktif hukuk anlayışının geliştirilmesi kritik öneme sahiptir. Yapay zekânın hızla ilerleyen doğası, Türkiye’de hukuk sisteminin de aynı hızla yenilikçi çözümler geliştirmesini zorunlu kılmaktadır. Böylelikle yapay zekamühendislik alanındaki çok hızlı gelişmeleriyle birlikte, hukuk alanında da, proaktif bir şekilde ilerlenebilir. 79 BÖLÜM VII PROAKTİF HUKUKUN UYGULAMA ALANLARI Proaktif hukuk, geleneksel hukuki yaklaşımlardan farklı olarak yalnızca mevcut uyuşmazlıkların çözümüne odaklanmak yerine, olası hukuki sorunları önceden tespit ederek önleyici tedbirlerin alınmasını amaçlayan bir yaklaşımı ifade eder. Bu yaklaşım, şirketler, devlet kurumları ve bireyler için hukuki risk yönetimini stratejik bir unsur hâline getirir. Proaktif hukukun temel amacı, hukuki ihtilafların ortaya çıkmasını engellemek, uyum süreçlerini güçlendirmek ve kurumsal karar alma mekanizmalarını hukuki açıdan güvence altına almaktır. Yine ileride doğabilecek olumsuzlukları veya istenmeyen ya da zararla sonuçlanabilecek olayları önceden görüp hissetmek suretiyle bunlara karşı önceden hukuk normları oluşturmak ve olası 80   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK risk içerebilecek durumları henüz ortaya çıkmasına müsaade etmeden bertaraf etmeyi sağlamaktır. Başka bir ifadeyle, Proaktif hukuk; yalnızca mevcut hukuki sorunlara tepki veren bir sistem değil, aynı zamanda olası riskleri öngörerek önleyici tedbirler geliştiren bir yaklaşımı ifade etmektedir. Yapay zekâ çağında bu anlayış, farklı hukuk alanlarında uygulanabilir. Aşağıda öne çıkan bazı alanlar incelenmektedir. 7.1. Kişisel Verilerin Korunması Yapay zekâ sistemlerinin en yoğun biçimde kullandığı kaynak, kişisel verilerdir. Bu nedenle, veri koruma hukuku proaktif bir yaklaşım gerektirir. Veri işleme sınırları: Kişisel verilerin yalnızca belirli ve meşru amaçlarla işlenmesi (GDPR, 2016; KVKK, 2016). Öngörücü tedbirler: Veri minimizasyonu, anonimleştirme ve şeffaflık ilkeleri, bireylerin mahremiyet hakkını korumak için kritik öneme sahiptir (Zarsky, 2016). PROAKTİF HUKUKUN UYGULAMA ALANLARI   81 Proaktif etki analizi: Veri koruma etki analizleri, potansiyel riskler ortaya çıkmadan önce hukuki ve teknik çözümler geliştirilmesine imkân tanır. Yapay zekâ sistemlerinin en yoğun biçimde kullandığı kaynak olan kişisel veriler, bireyin özel hayatının ve kişilik haklarının merkezinde yer almaktadır. Bu nedenle, veri koruma hukuku yalnızca reaktif değil, aynı zamanda proaktif bir yaklaşımla ele alınmalıdır. Kişisel verilerin yalnızca belirli, meşru ve ölçülü amaçlarla işlenmesi ilkesi, bireyin dijital çağda kimliğini ve özerkliğini korumanın temelini oluşturur. Zira yapay zekâ, bireylerin davranışlarını analiz eden, tahmin eden ve yönlendiren sistemler geliştirebilmekte; bu durum, kişinin kendi iradesi üzerindeki kontrolünü zayıflatma riski taşımaktadır. Dolayısıyla, veri işleme sınırlarının açık biçimde belirlenmesi, yalnızca veri güvenliğini değil, aynı zamanda bireyin kişilik haklarını da koruma altına alır. Bununla birlikte, öngörücü tedbirler ve proaktif etki analizleri, kişisel verilerin kötüye kullanımını engellemede kritik bir role sahiptir. Veri minimizasyonu, 82   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK anonimleştirme ve şeffaflık ilkeleri, bireylerin mahremiyet hakkının ihlal edilmesini önlemeye yönelik önleyici mekanizmalar olarak değerlendirilebilir. Özellikle yapay zekâ sistemlerinin karar alma süreçlerinde kullanılan algoritmaların “kara kutu” niteliği, kişilerin hangi veriler temel alınarak değerlendirildiğini bilmesini zorlaştırmaktadır. Bu durum, bireyin kişilik haklarını doğrudan etkileyen algoritmik ayrımcılık ve önyargı risklerini artırmaktadır. Bu nedenle, proaktif etki analizleri yoluyla olası hak ihlalleri daha ortaya çıkmadan öngörülmeli ve hem hukuki hem teknik düzeyde koruma mekanizmaları geliştirilmelidir. Böylece, yapay zekâ teknolojilerinin ilerlemesi ile insan onurunun, özerkliğinin ve kişisel mahremiyetin korunması arasında sürdürülebilir bir denge kurulabilir. 7.2. Sağlık Hukuku ve Yapay Zekâ Sağlık sektöründe yapay zekâ uygulamaları, teşhis, tedavi planlaması ve ilaç geliştirme gibi alanlarda büyük potansiyel taşımaktadır. Ancak bu durum, hukuki ve etik sorumlulukları da beraberinde getirir. PROAKTİF HUKUKUN UYGULAMA ALANLARI   83 Hata ve sorumluluk: Yapay zekâ destekli bir teşhis yanlış çıktığında, sorumluluk hekime mi, yazılım şirketine mi yoksa sağlık kuruluşuna mı ait olmalıdır (Price, 2017) Burada belki de ileride denetimsiz ve kuralsız gelişmeler neticesinde yapay zekanın kasten yol açabileceği sorunların da gecikmeksizin dikkate alınarak bu ciddi riske tedbir alınmalıdır. Hasta mahremiyeti: Elektronik sağlık verilerinin yapay zekâ ile işlenmesinde veri güvenliği en üst düzeyde sağlanmalıdır. Proaktif düzenleme: Klinik deneylerde yapay zekâ kullanımına ilişkin standartlar önceden belirlenmeli, etik kurullar sürece entegre edilmelidir. Proaktif tutum ve erken tedbirler ilgili kişi, şirket veya yazılımcıyı çıkabilecek büyük sorumluluklardan kurtaracaktır. Sözgelimi hastaya ilaç veren yapay zekalı robotun iyileştirici rutin ilaç yerine ölümcül ilacı hataen veya kasten vermesi gibi beklenmedik bir durumun önlenmesi bu sayede başarılabilecektir. 84   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK 7.3. Ceza Hukuku Boyutu Yapay zekâ sistemleri, ceza hukukunda hem suç soruşturmalarında hem de yargı süreçlerinde yer yer kullanılmaya başlanmıştır. Tahmin edici polislik (predictive policing): Suçun işlenme ihtimalini öngören sistemler, ayrımcılık riskleri nedeniyle ciddi tartışmalara yol açmaktadır (Ferguson, 2017). Adil yargılanma hakkı: Yapay zekâ destekli karar destek sistemlerinin, yargı bağımsızlığını zedelememesi için denetim mekanizmaları gereklidir. Proaktif hukuk; Algoritmik ayrımcılığın önlenmesi için ceza hukukunda şeffaflık ve hesap verebilirlik esas alınmalıdır. Yapay zekâ sistemlerinin ceza hukukunda giderek daha fazla kullanılmaya başlanması, hem etkinlik hem de adalet açısından önemli fırsat ve riskleri beraberinde getirmektedir. Özellikle tahmin edici polislik (predictive policing) uygulamaları, suçun işlenme ihtimalini öngörmek amacıyla geçmiş verileri analiz eden algoritmalara dayanmakta, ancak PROAKTİF HUKUKUN UYGULAMA ALANLARI   85 bu süreçte kullanılan verilerin taraflı veya eksik olması durumunda ayrımcılık ve etik ihlal riskleri doğmaktadır. Bu tür sistemler, bireyleri henüz herhangi bir fiil gerçekleştirmeden potansiyel suçlu olarak etiketleyebilmekte ve bu durum, masumiyet karinesi ile kişilik haklarının dokunulmazlığı açısından ciddi bir tehdit oluşturmaktadır. Dolayısıyla, yapay zekâ tabanlı suç tahmin sistemlerinin hukuki denetime tabi tutulması ve veri kaynaklarının tarafsızlığına ilişkin bağımsız mekanizmalar oluşturulması gereklidir. Ayrıca, adil yargılanma hakkı açısından yapay zekâ destekli karar destek sistemlerinin kullanımı da dikkatle ele alınmalıdır. Yargı süreçlerinde kullanılan algoritmaların şeffaf olmaması, tarafların kararın nasıl ve hangi verilere dayanarak verildiğini anlayamamasına neden olabilir; bu da yargı bağımsızlığı ve tarafsızlık ilkelerini zayıflatabilir. Karar gerekçelerinin açıklıkla ortaya konulabilmesini zorlaştırmak suretiyle de hukuki dayanak konusunda yetersiz kalmasına sebep olabilir. Bu nedenle, proaktif hukuk yaklaşımı çerçevesinde ceza hukukunda şeffaflık, hesap verebilirlik ve 86   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK insan denetimi ilkeleri esas alınmalıdır. Algoritmik ayrımcılığın önlenmesi, yalnızca teknik değil, aynı zamanda hukuki ve etik bir sorumluluktur. Yapay zekânın ceza adaletinde etkin biçimde kullanılabilmesi için, teknolojik yenilik ile temel insan hakları arasında denge kuran, önleyici ve denetleyici bir hukuk sistemine ihtiyaç duyulmaktadır. 7.4. İş Hukuku ve Yapay Zekâ Temelli Çalışma Modelleri Yapay zekâ, iş dünyasında otomasyon, robotik süreçler ve dijital iş gücü ile çalışma modellerini kökten değiştirmektedir. İş güvencesi: Yapay zekâlı robot veya robotik süreçleri, insan işçilerin, işlerini bir kısım iş kolunda yavaş yavaş ellerinden almaktadır (Tekin ve Demirel, 2024). Yapay zekâ nedeniyle işsizliğin artması, yeni bir sosyal politika tartışmasını gündeme getirmektedir (De Stefano, 2015). Çalışanların hakları: Yapay zekâ ile işçi performansının izlenmesi, kişisel verilerin korunması YAPAY ZEKA VE ULUSLARARASI HUKUK   93 tehlikeli görevlerde sürekli operasyonel kapasite sunabilir (Ataş, 2022). Bu tür avantajlar, modern ordular için önemli bir çekicilik unsuru oluşturur ve OSS’lerin muhtemel benimsenmesini hızlandırabilir. Ancak OSS’lerin yaygınlaşması bir dizi etik, hukuki ve teknik sorunu da beraberinde getirmektedir. Öncelikle insansız veya otonom angajman kararlarının insanî değerlere—sivil/asker ayrımı, orantılılık, ayırt edilebilirlik gibi—uygunluğunu sağlamak güçleşebilir; uluslararası insancıl hukuka (IHL) uyum sorunu ortaya çıkabilir. Sorumluluk ve hesap verebilirlik mekanizmaları belirsizleşir: Hatalı veya yasa dışı angajmanlarda kimin cezai veya hukuki sorumluluğunun olacağı; yazılım sağlayıcısının mı, sistem operatörünün mü, tasarımcının mı, yoksa devletin mi sorumlu tutulacağı gibi karmaşık meseleler gündeme gelir. Ayrıca algoritmik hatalar, önyargılar, yanlış veri eğitimi veya beklenmedik çevresel koşullar nedeniyle ortaya çıkabilecek istenmeyen davranışlar, sivil kayıplara ve uluslararası krizlere yol açabilir. 94   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Teknik açıdan güvenlik açıkları ve manipülasyon riski OSS’leri daha kırılgan hâle getirebilir; kötü niyetli aktörlerin erişimi veya sistemlerin siber saldırılarla manipüle edilmesi, sistemlerin kontrol dışı zarar vermesine neden olabilir. Stratejik düzeyde ise OSS’lerin yaygınlaşması düşük yoğunluklu çatışmalarda egemenlik, caydırıcılık dengeleri ve yanlış hesaplamalar nedeniyle tırmanma riskini artırabilir; ayrıca az maliyetli otonom platformların yaygınlaşması, statüko dışı aktörlerin askeri kapasiteler edinmesini kolaylaştırarak demokratik ve güvenlik istikrarı açısından tehlike oluşturabilir. Sonuç olarak, otonom silah sistemleri hem önemli operasyonel faydalar sunmakta hem de çok boyutlu riskler getirmektedir. Bu durum, OSS’lerin geliştirilmesi ve kullanımı için yalnızca teknik çözümler değil; aynı zamanda uluslararası hukuk, etik ilkeler, şeffaflık, denetim mekanizmaları ve uluslararası işbirliğini içeren kapsamlı bir düzenleyici çerçeve gerektirdiğini göstermektedir. Böyle bir çerçeve; insan denetiminin (human-in-the-loop / human-onthe-loop) sınırlarının belirlenmesi, hesap verebilirlik YAPAY ZEKA VE ULUSLARARASI HUKUK   95 mekanizmalarının açıklığa kavuşturulması, güvenlik testleri ve sertifikasyon süreçlerinin oluşturulması ve OSS’lerin kullanımına ilişkin uluslararası standartların geliştirilmesini içermelidir. Ayrıca, teknoloji transferi ve non-proliferasyon politikalarının güçlendirilmesi, OSS’lerin kontrolsüz yayılımını engelleme açısından kritik olacaktır (Ataş, 2022). Bu bağlamda otonom silah sistemlerinin ortaya çıkarmış olduğu sorunlar ULUSLARARASI HUKUK VE ETİK boyutları ile ele alınmalıdır. Otonom silah sistemleri stres, yorgunluk, korku, öfke ve nefret gibi insanda zuhur eden fiziksel, psikolojik ve duygusal baskılardan yoksundur. Dolayısıyla tehlikeli işleri yüksek risk altında yapabilmektedir. • Bununla birlikte, bu sistemlerin silahlı çatışmalarda kullanılması bir takım derin ve kalıcı sorunları da beraberinde getirmeye başlamıştır (Can, 2023). • Bilhassa artan otonomi, çatışma ve savaşlarda insan kontrolünün kaybına neden olmakta, hukuki/ 96   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK etik ilkeleri ihlal etmekte ve güvenliği küresel boyutta tehdit etmektedir.(Wagner, 2014) Bu sistemler, çatışma sahasında kullanıldığında sivil zararı minimize etme, hedef ayrımı yapma gibi savaş hukuku ilkelerine uygun kararlar almakta yetersiz kalabilirler. Bu durum hukuki sorumluluk açığını derinleştirebilir. • Robotik sistemler, geleneksel hukuk çerçevesinde tanımlanmadığından mevcut uluslararası ceza hukukunu da zayıflatma potansiyeline sahiptir. 8.4. Çevre ve Sürdürülebilirlik Yapay Zeka, küresel çevre sorunlarının çözümünde potansiyel bir araç olarak ön plana çıkmaktadır. Özellikle iklim değişikliği izleme sistemlerinde, enerji verimliliğinin artırılmasında, doğal kaynakların sürdürülebilir kullanımının sağlanmasında ve kirlilik yönetiminde yapay zekâ tabanlı uygulamalar önemli katkılar sunabilir (Vinuesa et al., 2020). Örneğin, YAPAY ZEKA VE ULUSLARARASI HUKUK   97 büyük veri analitiği ve makine öğrenmesi algoritmaları, karbon emisyonlarının modellenmesi ve yenilenebilir enerji kaynaklarının optimizasyonu gibi alanlarda etkin çözümler üretebilmektedir. Buna karşın, yapay zekanın geliştirilmesi ve işletilmesi sürecinde ortaya çıkan yoğun enerji tüketimi ve dijital atıklar, çevre üzerinde olumsuz etkiler yaratabilmektedir. YZ sistemleri, özellikle yüksek işlem gücü gerektiren derin öğrenme modelleri çalıştırırken büyük miktarda elektrik harcamakta ve dolayısıyla karbon ayak izine katkıda bulunmaktadır. Ayrıca, donanım üretimi ve eski teknolojilerin atık olarak çevreye bırakılması, ekolojik dengeyi olumsuz yönde etkileyebilmektedir. Bu çerçevede, proaktif hukuk yaklaşımı ile çevre hukuku arasındaki ilişki önem kazanmaktadır. Proaktif hukuk, yalnızca mevcut sorunlara müdahale etmek yerine, potansiyel riskleri önceden öngörerek önleyici düzenlemeler geliştirmeyi hedefler demiştik. Bu bağlamda, Paris Anlaşması gibi uluslararası çevre sözleşmelerinin yapay zekânın çevresel etkilerini de 98   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK kapsayacak şekilde genişletilmesi gündeme gelebilir. Böyle bir yaklaşım, hem bir yandan teknolojik ilerlemeyi teşvik ederken hem de çevresel sürdürülebilirliği güvence altına alabilir. Sonuç olarak, yapay zekanın çevresel faydaları ile riskleri arasında dengeli ve sürdürülebilir bir çerçeve oluşturulması, hem hukuki hem de teknolojik düzeyde stratejik önlemler gerektirmektedir. Proaktif hukuk mekanizmaları, bu dengeyi sağlamak ve yapay zekanın insanlık yararına sürdürülebilir kullanımını güvence altına almak için önemli bir araç olarak değerlendirilebilir. Özetleyecek olursak; Yapay Zeka, küresel çevre sorunlarının çözümünde önemli bir araç olabilir; örneğin iklim değişikliğinin izlenmesi, enerji verimliliği veya doğal kaynakların korunması gibi alanlarda katkı sağlayabilir . Ancak, Yapay Zekanın yoğun enerji tüketimi ve dijital atık üretimi, çevre üzerinde olumsuz etkiler yaratabilmektedir. Bu bağlamda, Paris Anlaşması gibi küresel çevre sözleşmelerinin yapay zekanın çevresel etkilerini de kapsayacak şekilde genişletilmesi gündeme gelebilir. YAPAY ZEKA VE ULUSLARARASI HUKUK   99 8.5. Küresel Konsensüsün Gerekliliği Uluslararası hukukta yapay zekâya yönelik en büyük zorluklardan biri, ülkeler arasında farklı değerler, çıkarlar ve regülasyon yaklaşımlarının bulunmasıdır. Avrupa Birliği etik ve insan hakları merkezli bir yaklaşım benimserken, bazı diğer ülkeler ekonomik büyümeyi ve teknolojik üstünlüğü ön plana çıkarmaktadır (Cath et al., 2018). Bu farklılıklar, küresel ölçekte bağlayıcı düzenlemelerin oluşturulmasını zorlaştırsa da uzun vadede insanlığın ortak geleceği için uluslararası konsensüs kaçınılmaz görünmektedir. yapay zeka ya yanlış yaptırmaya sebep olabilecek geliştirmelerin çalışmaların veya uygulamaların karşısında tüm ülkeler ve toplumlar bazında Cezai yaptırımların uygulanmasının zorunlu olması ve yapay zekâ sistemlerinde aranan temel kriterlerden birinin siber suçlarla mücadele üzerine olması, sorunların veya olası risklerin daha hızlı şekilde çözümlenmesinde etkili olacaktır. Risklerin azaltılması, tehlikenin sonlandırılması, güvenliğin sağlanması ve ciddi savunma 100   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK mekanizmalarının oluşturulması için dünya genelinde küresel işbirliği ile yapılacak çalışmalar, kanun, mevzuatlar, teknik, idare hukuku gibi konularda öncelikle bu tür unsurlar baz alınarak yapılabilir (Önet & Bayraktar, 2024). 101 BÖLÜM IX TARTIŞMA Türkiye, stratejik belgelerinde yapay zekânın potansiyelini kabul etmiş olsa da hukuki düzenlemelerde henüz başlangıç aşamasındadır. Aslında yapay zeka hukuku konusu dünyada da yeni ve emekleme safhasında olduğu için geç kalınmışlık yoktur. Bu noktada, yalnızca ulusal sınırlar içinde değil, küresel ölçekte gelişmeleri dikkate alan proaktif hukuk anlayışının geliştirilmesi kritik öneme sahiptir. Yapay zekânın hızla ilerleyen doğası, dünyada ve Türkiye’de hukuk sisteminin de aynı hızla yenilikçi çözümler geliştirmesini zorunlu kılmaktadır. Yapay zekâ çağında hukukun en temel işlevi, yalnızca uyuşmazlıkları çözmek değil, aynı zamanda insan onuru, özgürlükler ve toplumsal düzeni koruyacak şekilde hatta biyolojik insanlığın ayakta kalması dolayısıyla ve yapay zeka insanlığın hizmetinde 102   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK kalması için riskleri önceden öngörmek olmalıdır. Bu bağlamda “proaktif hukuk” yaklaşımı, teknolojinin getirdiği fırsatlarla beraber ortaya çıkan risklere karşı önemli bir araç olarak öne çıkmaktadır. 9.1. Hızlı Teknolojik Gelişmeler ve Hukukun Yavaş Adaptasyonu Roma döneminden beri Türk Hukuk tarihi gelişmeleri de dahil olmak üzere günümüze kadar hukuk kaynakları incelendiğinde hukuk düzeni, toplumların gelişim ve değişimlerine olaylar olduktan sonra geriden gelerek ayak uydurmaktadır. Geçmişte olduğundan çok daha büyük bir ivmeyle gelişen yapay zeka hukukun geriden takibine karşı çok daha tehditkardır (Yılmaz, 2023) Hukuk tarihsel olarak teknolojik gelişmelerin gerisinde kalma eğilimindedir (Lessig, 1999). Yapay zekâ gibi öngörülemez bir hızla ilerleyen bir teknoloji karşısında geleneksel reaktif hukukun yetersiz kalması kaçınılmazdır. Bu nedenle, yapay zekâ süreçlerinde öngörü, risk analizi ve önleyici düzenlemeler hayati bir öneme sahiptir (Balkin, 2015). GELECEĞE YÖNELİK HUKUKİ ÇERÇEVELER . . .   109 10.3. Uluslararası İşbirliği ve Standartlar Gelecekte yapay zekanin etkileri yalnızca tek bir ülke ile sınırlı kalmayacak, küresel ölçekte tüm insanlığı ilgilendirecektir. Bu nedenle uluslararası işbirliği ve standart geliştirme kritik öneme sahiptir. AB’nin Yapay Zekâ Yasası ve UNESCO’nun Etik Tavsiyeleri, farklı coğrafyalarda ortak etik ve hukuki ilkelerin oluşturulması için örnek teşkil etmektedir (UNESCO, 2021; European Commission, 2021). 10.4. Çok Paydaşlı Stratejiler Geleceğe yönelik hukuki çerçeveler, yalnızca devletler tarafından değil, akademi, özel sektör ve sivil toplum örgütlerinin katılımıyla geliştirilmelidir. Bu çok paydaşlı yaklaşım, düzenlemelerin daha kapsayıcı, uygulanabilir ve toplumsal ihtiyaçlara duyarlı olmasını sağlar (Floridi & Cowls, 2019). 10.5. Önleyici ve Proaktif Yaklaşımın Entegrasyonu Proaktif hukuk stratejileri, gelecekte ortaya çıkabilecek sorunları önceden tespit ederek önleyici 110   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK tedbirler sunar. Bu yaklaşım, yalnızca belirli bir ülkeyi değil, tüm dünyada yaşayan insanları kapsayacak şekilde tasarlanmalıdır. Böylece yapay zekanın olası tehlikeleri minimize edilirken, teknolojinin faydalı yönleri güvence altına alınabilir. 111 BÖLÜM XI SONUÇ VE ÖNERİLER Yapay zekâ çağında hukuk sistemleri, geleneksel işlevlerinin ötesine geçmek ve riskleri öngörerek önleyici düzenlemeler geliştirmek zorundadır. Reaktif hukuk, gerçekleşmiş zararları gidermeye yönelik olduğundan yapay zekâ gibi hızlı ve öngörülemeyen teknolojiler karşısında yetersiz kalmaktadır. Bu nedenle, insanı ve insanlığı merkeze alan proaktif hukuk anlayışı, sürdürülebilir bir gelecek için hayati önemdedir. 11.1. Genel Sonuçlar Yapay zekâ teknolojileri yalnızca bireysel yaşamı değil, uluslararası barışı, güvenliği ve küresel ekonomiyi de doğrudan etkilemektedir. Riskler varsayımsal görünse de, hızla gelişen yapay zekâ süreçlerinin insanlık için geri dönüşü olmayan tehditler oluşturma ihtimali küçümsenemez. 112   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Bu nedenle, yalnızca belli başlı ülkelerin değil, ilgisiz veya küçük görülen ülkelerin de dahil olacağı küresel düzeyde bağlayıcı bir hukuk düzeni oluşturulmalıdır. Proaktif hukuk, teknolojiye engel koymak değil; aksine, onu insan hakları, etik ilkeler ve toplumsal fayda çerçevesinde güvence altına almak için geliştirilmelidir. 11.2. Öneriler Küresel Düzenleme Mekanizmaları ·Yapay zekâya ilişkin bağlayıcı uluslararası sözleşmeler hazırlanmalı ve Birleşmiş Milletler veya benzeri küresel platformlar aracılığıyla hayata geçirilmelidir (Floridi et al., 2018). ·Bu düzenlemeler yalnızca büyük devletleri değil, en küçük ve “ilgisiz” görülen ülkeleri de kapsamalıdır. Çünkü yapay zekâ etkileri küresel ölçekte yayılmaktadır. Ulusal Yasal Çerçevelerin Güçlendirilmesi ·Her ülke kendi iç hukukunda yapay zekâya dair düzenlemeleri proaktif biçimde geliştirmelidir. SONUÇ VE ÖNERİLER   113 ·Avrupa Birliği’nin Artificial Intelligence Act tasarısı, ulusal düzenlemeler için örnek teşkil edebilir (European Commission, 2021). Etik ve Hukuki Etki Analizleri ·Yeni yapay zekâ sistemleri piyasaya sürülmeden önce zorunlu etik ve hukuki etki analizleri yapılmalıdır (Zarsky, 2016). ·Bu analizler, algoritmik ayrımcılık, veri güvenliği, insan hakları ihlali gibi riskleri ortaya çıkmadan önce tespit etmeyi amaçlamalıdır. Şeffaflık ve Hesap Verebilirlik ·Algoritmaların işleyişi ve karar alma mekanizmaları mümkün olduğunca şeffaf hale getirilmelidir. ·Kullanıcılar, bir yapay zekâ sistemi ile muhatap olduklarını bilme hakkına sahip olmalıdır. ·Geliştiriciler ve şirketler, sistemlerin yol açtığı zararlardan dolayı hukuki sorumluluk taşımakla yükümlü olmalıdır. 114   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK İnsan Merkezli Yaklaşım ·Proaktif hukuk, teknolojiyi değil insanı merkeze almalıdır. ·Tüm düzenlemeler, insan onurunu, özgürlükleri ve temel hakları koruyacak şekilde tasarlanmalıdır (Bostrom, 2014). ·Eğitim ve Farkındalık Programları ·Toplum genelinde yapay zekâ farkındalığı artırılmalıdır. ·Hukukçular, mühendisler, siyasetçiler ve vatandaşlar için yapay zekâ okuryazarlığını artıracak çok disiplinli eğitim programları geliştirilmelidir. Sosyal ve Ekonomik Önlemler ·Yapay zekâ nedeniyle iş gücü piyasasında yaşanacak dönüşümlere karşı sosyal politikalar geliştirilmelidir (De Stefano, 2015). ·Yeniden eğitim, yaşam boyu öğrenme ve temel gelir uygulamaları gibi önlemler, sosyal krizlerin önüne geçebilir. SONUÇ VE ÖNERİLER   115 Dinamik ve Esnek Hukuk ·Yapay zekâ teknolojisi sürekli evrildiği için hukuki düzenlemeler katı ve değişmez olmamalıdır. ·Belirli aralıklarla güncellenen, esnek ve uyarlanabilir normlar benimsenmelidir (Balkin, 2015). ·Uluslararası Veri Paylaşımı ve İş Birliği ·Yapay zekânın güvenli gelişimi için ülkeler arasında ortak veri paylaşımı ve araştırma platformları kurulmalıdır. ·Bu sayede hem etik ihlaller önlenebilir hem de bilimsel ilerleme hızlandırılabilir. Acil Durum Senaryoları ve Kriz Yönetimi ·Yapay zekâ kaynaklı olası krizler (örneğin otonom silahlar, ekonomik çöküş, kitlesel işsizlik) için önceden hazırlanmış hukuki ve kurumsal senaryolar geliştirilmelidir. ·Kriz anında hızlı karar alma yetkisine sahip uluslararası acil durum komisyonları kurulmalıdır. ·Uluslararası Bir Antlaşma Geliştirilmesi 116   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK ·Tüm devletlerin katılımıyla bağlayıcı bir uluslararası anlaşma hazırlanmalıdır. ·Bu anlaşma, otonom silah sistemlerinin geliştirilmesi, sınırlandırılması ve kullanımını ·düzenlemelidir. İnsan Müdahalesi Gerekliliği ·Otonom sistemlerde insan müdahalesinin zorunlu olduğu durumlar tanımlanmalıdır. ·Ölümcül kararlar tamamen makineler tarafından alınmamalıdır. ·Ölüm kararı, h ukuki açıdan değerlendirdiğimizde doğal zekâ ve akıl sahibi gerçek ·kişi olan ve yapay zekâ ile ilgili her şeyi tasarlayıp geliştiren insan tarafından ·alınmalı, insanlık, günümüz ve gelecekte yapay zekâlı sistemlerden üstün kalmalıdır Teknolojik Şeffaflık ve Hesap Verebilirlik ·Sistemlerin nasıl çalıştığı konusunda uluslararası standartlar geliştirilmelidir SONUÇ VE ÖNERİLER   117 ·Yazılım geliştiricileri ve üreticiler için sorumluluk mekanizmaları oluşturulmalıdır. Etik Rehberlik ve Bilinçlendirme ·Otonom silah sistemlerinin etik boyutları hakkında kamuoyu bilinçlendirilmelidir. Hatta kamuoyu yoklamaları ile mümkün olabildiğince tüm insanlık sürece dahil edilebilir. ·Bilim insanları, hukukçular, etik uzmanları, karar vericiler hatta sivil toplum kuruluşları bu süreçte aktif bir şekilde rol almalıdır. Ar Ge Üzerindeki Kısıtlamalar Otonom silah sistemlerinin kötüye kullanımını önlemek için Ar Gefaaliyetleri uluslararası kontrol mekanizmalarına ve yaptırımıgüçlü denetimlere tabi olmalıdır. Uluslararası İş Birliği ve Diyalog Tüm ülkeler, BM ve diğer uluslararası kuruluşlar çerçevesindekonsensus içerisinde şeffaf bir diyalog yürütmelidir. 118   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Hukuki manada; tasarım, program, üretim ve kullanım safahatının tamamında, özellikle de bu robotları kontrol noktasında, imha veya ölüm kararında gerçek kişi olan insanın tek ve son söz sahibi olması için gerekli düzenlemeler ivedilikle yapılmalıdır. ·İnsanlığın geleceği için, Kendi kendine Ölüm Kararı vermesiolası Katil Robotların durumu, yalnızca, konuyla ilgilenenşirketlere, araştırma geliştirme yapan ve yaptıran ülkelerininisiyatifine bırakılmamalıdır. ·İnsan , yaptırımı olan global hukuk kuralları çerçevesinde,yapay zekâ ile ilgili son karar verici ve kontrol sahibi olarak kalmalıdır 11.3. Son Değerlendirme ve Gelecek Odakları Günün birinde siber uzaydaki tüm Yapay Zeka sistemlerinin birbirleri ile birleşip yapay zekalı varlıkların tamamını etkisi altına almak suretiyle, global, bütünleşik tek bir Üst Akıllı Yapay Zekaya dönüşerek insanlığa meydan okuma ihtimali de olasılık dahilindedir diye düşündüğümüzde buna imkansız diyemeyiz. SONUÇ VE ÖNERİLER   125 denetlenebilir ve hesap verebilir olmasını güvence altına almalıdır. Böylece hem bireysel haklar korunur hem de toplumsal güven sağlanır (UNESCO. 2024). ·İnovasyon ile Hukuk Dengesi: ·Hukuki düzenlemeler, yeniliği engellemeden teknolojik riskleri minimize edecek şekilde esnek olmalıdır. Katı ve sabit kurallar yerine, adaptif ve uyarlanabilir çerçeveler, Yapay zeka teknolojilerinin toplumsal faydaya dönüştürülmesini destekler ve rekabetçi inovasyonu teşvik eder (Yılmaz & Demir, 2023; Gün, M. 2022). ·Kriz Yönetimi ve Acil Durum Planları: ·Yapay zeka sistemleri beklenmedik hatalara veya kontrol kayıplarına karşı hazırlıklı olmalıdır. Hukuki düzenlemeler, olası kriz senaryolarına yönelik acil müdahale planları ve sorumluluk zincirlerini belirlemelidir. Böylece hem bireysel hem de toplumsal zararlar minimize edilir. ·Proaktif hukuk, yapay zekâ çağında yalnızca hukuki bir tercih değil, insanlığın geleceğini koruyacak zorunlu bir stratejidir. Ulusal çıkarları aşan, küresel 126   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK ölçekte bağlayıcı ve insan merkezli bir düzenleme vizyonu geliştirilmediği takdirde, yapay zekânın potansiyel riskleri tüm insanlık için telafisi mümkün olmayan sonuçlar doğurabilir. Teorik Fizikçi Stephen Hawking’in söylediği gibi; “Yapay zekâ oluşturmadaki başarı, insanlık tarihindeki en büyük olay olacaktır. Ne yazık ki, risklerden nasıl kaçınacağımızı öğrenmedikçe, bu başarı sonuncusu da olabilir.” Buna karşılık, şeffaf, katılımcı ve dinamik bir proaktif hukuk düzeni, yapay zekânın insanlığa en yüksek faydayı sağlayacağı güvenli bir geleceğe köprü oluşturacaktır. 127 KAYNAKÇA Abudureyimu, Y., & Oğurlu, Y. (2021). Yapay zekâ uygulamalarının kişisel verilerin korumasına dair doğurabileceği sorunlar ve çözüm önerileri. İstanbul Ticaret Üniversitesi Sosyal Bilimler Dergisi, 20(41) Acar, O. (2020). Yapay zeka fırsat mı yoksa tehdit mi?. İstanbul:Kriter Yayınevi. Acar, O. (2020). Yapay zeka fırsat mı yoksa tehdit mi?. İstanbul: Kriter Yayınevi. Adır, E. K. (2023). Robotların yol açtığı zararlardan doğan hukuki sorumluluk. Ankara: Yetkin Yayınları. Adır, E. K. (2023). Robotların Yol Açtığı Zararlardan Doğan Hukuki Sorumluluk Yetkin Yayınları, Ankara, syf 6 Adır, E. K. (2023). Robotların Yol Açtığı Zararlardan Doğan Hukuki Sorumluluk (Doctoral dissertation, Ankara Universitesi (Turkey). Afonso Seixas-Nunes, “Autonomous Weapons Systems and the Procedural Accountability 128   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Gap,” Brooklyn Journal of International Law 46 (2021), pp. 421, 423 Afonso Seixas-Nunes, “Autonomous Weapons Systems and the Procedural Accountability Gap,” Brooklyn Journal of International Law 46 (2021), pp. 421, 423 Ahmet, Ef, 2024. Süper Yapay Zeka Devrimleriyle Yönetim Bilişim Sistemlerinin Evrimi.Uluslararası Yönetim Bilişim Sistemleri ve Bilgisayar Bilimleri Dergisi (UYBİSBBD )8(2), 127-142 Akbulut, B. (2023). Yapay zeka ve ceza hukuku sorumluluğu. Ankara Hacı Bayram Veli Üniversitesi Hukuk Fakültesi Dergisi, 27(4), 267–319. Akkurt, 2019, Britanya Ansiklopedisi 2024. Akkurt, Sinan Sami: “Yapay Zekânın Otonom Davranışlarından Kaynaklanan Hukuki Sorumluluk”, Uyuşmazlık Mahkemesi Dergisi, Yıl: 7, Say: 13, Haziran 2019, s. 41. Aletras, N., Tsarapatsanis, D., Preoţiuc-Pietro, D., & Lampos, V. (2016). Predicting judicial decisions of the European Court of Human Rights: A Natural KAYNAKÇA   129 Language Processing perspective. PeerJ Computer Science, 2, e93. https://doi.org/10.7717/peerj-cs.93 Anderson K, Reisner D, and Waxman M, ʻAdapting the Law of Armed Conflict to Autonomous Weapon Systemsʼ (2014) 90 International Legal Studies 398 (ʻAdapting the Law of Armed Conflictʼ) Anderson K, Reisner D, and Waxman M, ʻAdapting the Law of Armed Conflict to Autonomous Weapon Systemsʼ (2014) 90 International Legal Studies 398 (ʻAdapting the Law of Armed Conflictʼ) Asaro P, ʻOn Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanization of Lethal Decisionmakingʼ (2012) 94 International Review of the Red Cross 687 <www. icrc.org/eng/resources/documents/article/review2012/ irrc-886-asaro.htm> accessed 17 November 2015 Asaro P, ʻOn Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanization of Lethal Decisionmakingʼ (2012) 94 International Review of the Red Cross 687 <www.icrc. org/eng/resources/documents/article/review2012/irrc886-asaro.htm> accessed 17 November 2015 130   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Aşkun, V. (2024). Yapay Zekâ ve Otomasyon Çağında Eşitlik ve Refah: Daron Acemoğlu’nun Görüşlerine Dayalı Bir İnceleme. Bozok Sosyal Bilimler Dergisi, 3(2), 137-160. Ataş, İ. (2022). Otonom Silah Sistemlerinin İnsancıl Hukukun Temel İlkelerine Uygunluğunun Sağlanmasında Anlamlı İnsan Kontrolünün Etkisi. Hacettepe Hukuk Fakültesi Dergisi, 12(1), 767-809. https://doi.org/10.32957/hacettepehdf.1003551 Ataş, İ. (2022). Otonom Silah Sistemlerinin İnsancıl Hukukun Temel İlkelerine Uygunluğunun Sağlanmasında Anlamlı İnsan Kontrolünün Etkisi. Hacettepe Hukuk Fakültesi Dergisi, 12(1), 767-809. https://doi.org/10.32957/hacettepehdf.1003551 Avrupa Birliği. (2025). Yapay Zeka Yasası: Enerji verimliliği gereklilikleri. https://www.whitecase.com/ insight-alert/energy-efficiency-requirements-under-euai-act Avrupa Komisyonu. (2020). Yapay Zeka ve Hukuki Sorumluluk. https://www.europarl.europa. eu/RegData/etudes/STUD/2020/621926/IPOL_ STU(2020)621926_EN.pdf KAYNAKÇA   131 Avrupa Komisyonu. (2021). Yapay Zeka Yasası: Avrupa’nın dijital geleceğini şekillendirmek. https:// digital-strategy.ec.europa.eu/en/policies/regulatoryframework-ai Avrupa Parlamentosu. (2017). Robotik Alanında Medeni Hukuk Kuralları Komisyonu’na Tavsiyeli Karar. https://www.europarl.europa.eu/doceo/ document/TA-8-2017-0051_EN.html Balkin, J. M. (2015). The path of robotics law. California Law Review Circuit, 6, 45–60. Barış Özçelik, “Yapay Zekânın Veri Koruma, Sorumluluk ve Fikri Mülkiyet AçısındanOrtaya Çıkardığı Hukuki Gereksinimler”, Adalet Dergisi, 66, 2021, s. 100. Batarseh, F.A. (2018). Artificial Intelligence. In: Schintler, L., McNeely, C. (eds) Encyclopedia of Big Data. Springer, Cham. https://doi.org/10.1007/978-3319-32001-4_225-1 Benli, E., & Şenel, G. (2020). YAPAY ZEKÂ VE HAKSIZ FİİL HUKUKU. Ankara Sosyal Bilimler Üniversitesi Hukuk Fakültesi Dergisi, 2(2), 296-336. 132   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK Ber, A. S. (2022). Yapay zekânın hukuki statüsü ve kişilik hakkı kapsamında eğerlendirilmesi. Dicle Üniversitesi Adalet Meslek Yüksekokulu Dicle Adalet Dergisi, 6(1), 57-100. Birleşmiş Milletler Silahsızlanma İşleri Ofisi (UNODA). (2024). Belirli Konvansiyonel Silahlar Sözleşmesi - Ölümcül Otonom Silah Sistemleri Konusunda Hükümet Uzmanları Grubu 2024. https://cenevreofisi-dt.mfa.gov.tr/Mission/ ShowInfoNote/353781 Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press. Bozkurt Yüksel, 2024. AI ACT’in açıklanabilir yapay zekâ (explainable artificial) bağlamında değerlendirilmesi için bkz. Neo Christopher Chung, vd., “False Sense of Security in Explainable Artificial Intelligence (XAI)” Workshop on AI Governance at the 2024 International Joint Conference on Artificial Intelligence (IJCAI), 2024, s. 2-3, < intelligence> Erişim Tarihi 04 Kasım 2024. https://arxiv.org/ pdf/2405.03820 KAYNAKÇA   133 Britanya Ansiklopedisi, https://www.britannica. com/technology/artificial-intelligence, Erişim Tarihi: 04.11.2024. Burrell, J. (2016). How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1), 2053951715622512.. https:// doi.org/10.1177/2053951715622512 Calo, R. (2015). Robotics and the lessons of cyberlaw. California Law Review, 103(3), 513–563. Can, E. (2023). Yapay zekâ Sistemlerinin Siber Suçlarla Mücadeledeki Rolü: Bilişim Ve Uluslararası Hukuk İncelemesi. Ankara Hacı Bayram Veli Üniversitesi Hukuk Fakültesi Dergisi, 27(3), 345-382. https://doi.org/10.34246/ahbvuhfd.1306712 Cath, C. (2018). Governing artificial intelligence: Ethical, legal and technical opportunities and challenges. Philosophical Transactions of the Royal Society A, 376(2133), 20180080. https://doi.org/10.1098/ rsta.2018.0080 China State Council. (2017). New generation artificial intelligence development plan. Retrieved 134   YAPAY ZEKA ÇAĞINA AÇILAN KÖPRÜDE PROAKTİF HUKUK from http://www.gov.cn/zhengce/content/2017-07/20/ content_5211996.htm Civelek, D. Y. (2011). Kişisel Verilerin Korunması ve Bir Kurumsal Yapılanma Öneris Bilgı Toplumu Dairesı Başkanlığı. Coşkun, F., & Gülleroğlu, H. D. (2021). Yapay Zekanın Tarih İçindeki Gelişimi ve Eğitimde Kullanılması. Ankara Üniversitesi Eğitim Bilimleri Fakültesi Dergisi, 54(3), 947-966. https://doi. org/10.30964/auebfd.916220 Coşkun, F., & Gülleroğlu, H. D. (2021). Yapay zekânın tarih içindeki gelişimi ve eğitimde kullanılması. Ankara University Journal of Faculty of Educational Sciences (JFES), 54(3), 947-966. Crawford, K., & Calo, R. (2016). There is a blind spot in AI research. Nature, 538(7625), 311-313. Creemers, R., de Vrieze, A., & Zhou, H. (2022). China’s “Recommendations Algorithm Regulation” and Its Impacts on Platforms and Users. FES Briefing. Friedrich-Ebert-Stiftung. Retrieved from https://library. fes.de/pdf-files/bueros/bruessel/19904.pdf