Umut Berkay POLAT[1]
Av.Girayhan OCAK[2]
İnsanlık tarihi, teknolojik ilerlemeler sayesinde yeni çağların başlangıcına şahit olmaktadır. 18. yüzyıl ile birlikte Sanayi Devrimi’nin getirdiği makineleşmenin devamını 20. yüzyılda elektriğin icadı izlemiş, 1970’li yıllarda bilgisayar ve otomasyon sistemlerinin oluşturulması ise teknolojinin hızlanmasına süratli bir ivme kazandırmıştır. Günümüzde internetin gelişmesiyle makineleşme evriminde ayrı bir boyut aşılmış ve insanların yanında makinelerin öğrenme süreci başlayarak yapay zekâ sistemlerinin ortaya çıktığı yeni bir teknoloji çağını doğmuştur. Teknolojinin hızlı bir şekilde evrimleşmesi, bu gelişmeler neticesinde ortaya çıkan kavram karmaşalarını ve ihtilafları çözmek adına yeni düzenlemeleri de beraberinde getirmiştir.
Günümüz teknolojik gelişmelerinden birisi de son dönemlerde oldukça popüler olan yapay zekâ sistemleridir. Yapay zekâ, bir bilgisayarın veya bilgisayar kontrollü robotun, genellikle akıllı varlıklarla ilişkili görevleri yerine getirme yeteneği olarak tanımlanmaktadır. Terim sıklıkla akıl yürütme, anlam keşfetme, genelleme veya geçmiş deneyimlerden öğrenme gibi insanlara özgü entelektüel süreçlerle donatılmış sistemler geliştirmek amacıyla kullanılmaktadır[3].Y Yapay zekanın 20 seneden fazladır gelişimi son yıllarda geçmişe nazaran hızlanmış ve sayısız yapay zekâ aracı çıkmıştır. Örneğin OpenAI şirketine ait “ChatGPT” ve Google şirketine ait “Bard” gibi yazışma robotları yapay zekanın son dönemde kullanıcılara sunduğu çıktılardandır. Bu ve benzeri gelişimler ile birlikte makine öğrenmesi ve yapay zekâ alanlarında düzenlemelere ihtiyaç duyulmuş ve bu kapsamda ilk adımı 21 Nisan 2021 tarihinde Avrupa Komisyonu, Yapay Zekâ Tüzük Teklifi metnini[4] yayımlayarak atmıştır[5].
Yapay zekâ için ilk düzenleme kabul edilen Yapay Zekâ Tüzük Teklifi, 6 Aralık 2022 tarihinde Avrupa Birliği Konseyi önüne gelerek, konsey tarafından genel yaklaşım (general approach) kararı açıklanmıştır. Genel yaklaşım kararı ile Avrupa Birliği Parlamentosu önüne giden tüzük, tasarı örneğinde birtakım değişiklikler yapılarak 14 Haziran 2023 tarihinde 499’a karşı 28 oy ve 93 çekimser oy ile kabul edilmiştir[6].
Avrupa Birliği Yapay Zekâ Tüzüğü önerisi, hem Konsey (27 Avrupa Birliği üye devletini temsil eder) hem de Avrupa Parlamentosu metnin ortak bir versiyonu üzerinde anlaşmaya vardığında yasalaşması planlanmaktadır[7].
Avrupa Birliği Yapay Zekâ Tüzüğü, içerdiği önemli düzenlemeler ile insan merkezli ve güvenilir yapay zekâ uygulamalarını teşvik ederek; sağlık, güvenlik, temel haklar, demokrasi ile hukukun üstünlüğü ve çevrenin korunması gibi alanlarda yapay zekanın gelişimi ve inovasyonunu sağlayıp, yapay zekâ sistemlerinin oluşabilecek zararlı etkilerini engelleyerek Avrupa Birliği üye devletleri ve vatandaşlarını korumayı hedeflemektedir[8].
AB Yapay Zekâ Tüzüğü’nde bu düzenlemenin ana konusu olan yapay zekâ sistemleri açıklanmıştır. Tüzüğün 3(1) maddesine göre “Yapay Zekâ Sistemi (AI sistem), farklı düzeylerde bağımsız çalışacak şekilde tasarlanmış ve açık veya örtük hedefler için fiziksel veya sanal ortamları etkileyen tahminler, öneriler veya kararlar gibi çıktılar üretebilen makine tabanlı bir sistem anlamına gelir.[9]” şeklinde tanımlanmıştır. AB Komisyonuna teklif edilen tasarıda “program” temelli bir tanım kullanılırken son düzenlemede, yapay zekâ sistemleri “makine” tabanlı bir sistem olarak belirtilmiştir. Sadece programların değil, makine bazlı sistemlerin de düzenlemeye dahil edilmesi ile kapsam genişletilmiş ve uzun vadeli olarak planlama yapıldığı kanaatimizce hedefin genişletildiği düşünülmektedir.
Tüzüğün komisyon önerisinde bulunmayan, sonradan eklenmiş 4(A) maddesi, yapay zekâ ile ilgili genel prensipleri düzenlemektedir. Bu çerçevede 4(A1)’e göre “Bu düzenleme çerçevesindeki tüm operatörler; etik ve güvenilir yapay zekâ oluşturmak için takip eden genel prensiplere uygun, insan merkezli Avrupa yaklaşımını teşvik eden tutarlı bir üst düzey çerçeve oluşturarak yapay zekâ sistemlerini veya temel modelleri geliştirmek ve kullanmak için ellerinden geleni yapacaklardır.” şeklinde düzenleme ile birtakım genel ilklerden bahsetmiştir.
Bu kapsamdaki genel ilkeler şunlardır:
· İnsan kontrolü ve gözetimi
· Teknik sağlamlık ve güvenlik
· Gizlilik ve veri yönetimi
· Şeffaflık
· Çeşitlilik, ayrımcılık yapmama ve hakkaniyet
· Sosyal ve çevresel refah[10]
Düzenlenen madde, yapay zekâ sistemlerinin kullanılması ve geliştirilmesi kapsamında önemli bir genel kapsam çizmiştir.
Yine aynı şekilde AB komisyon tasarısında bulunmayan 4(b) maddesi ile tüzük, Avrupa Birliği ve üye devletlerine, yapay zekâ okuryazarlığının arttırılması konusunda bir yükümlülük yüklemiştir. İlgili hükme göre: “Bu tüzüğü uygularken, Birlik ve Üye Devletler, sektörler arasında sağlayıcı gruplarının, dağıtıcıların ve ilgili etkilenen kişilerin farklı ihtiyaçlarını dikkate alarak uygun cinsiyet ve yaş gözetiminde ve yapay zekâ sistemlerinin demokratik kontrolünü sağlayarak eğitim ve öğretim, beceri geliştirme ve yeniden yerleştirme programları ile yeterli düzeyde yapay zekâ okuryazarlığının geliştirilmesine yönelik önlemleri teşvik edecektir”. Aynı maddenin 2. fıkrası ise yapay zekâ okuryazarlığının arttırılması için benzer bir yükümlülüğü, yapay zekâ sağlayıcı ve uygulayıcılarına da getirilmiştir. Bu çerçevede yapay zekâ sistemleri sağlayıcıları ve uygulayıcıları, sistemlerin çalıştırılması ve kullanılmasıyla ilgilenen kişilerin yapay zekâ okuryazarlığını arttırmak için önlemler alacaktır[11]. Bu maddeler ile Avrupa Birliği Yapay Zekâ Tüzüğü, sadece yapay zekâ sistemlerini anlamlandırmak veya sınıflandırmak üzerine değil, ayrıca Birlik üye devletlerin vatandaşlarının da yapay zekâ sistemleri karşısında bilinçli olmasını da hedeflemektedir.
Avrupa Birliği Yapay Zekâ Tüzüğü, yapay zekayı sınıflandırırken risk temelli bir yaklaşım benimsemiştir. Buna göre risk faktörleri 4 kategoride sınıflandırılmış ve kullanılması kabul edilemez risk oluşturan (Unacceptable Risk) yapay zeka, yüksek risk oluşturan (High Risk) yapay zeka, sınırlı risk oluşturan (Limited Risk) yapay zeka ve minimal risk oluşturan (Low or Minimal Risk) yapay zekâ şeklinde ayırım yapılmıştır[12].
Yapay Zekâ Tüzüğü, 2. kısım madde 5 uyarınca "kabul edilemez risk oluşturan” (unacceptable risk) yapay zekâ kullanım durumlarını, insanların güvenliği, geçimi ve haklarına zarar vereceğinden hareketle yasaklamıştır. Güvenliği veya temel hakları olumsuz etkileyen yapay zekâ sistemleri yüksek riskli (High Risk) kabul edilecek ve bu tip yapay zekâ sistemleri iki kategoriye ayrılacaktır:
1) AB’nin ürün güvenliği mevzuatı[13] kapsamına giren ürünlerde kullanılan yapay zeka sistemleri. Buna oyuncaklar, havacılık, arabalar, tıbbi cihazlar ve asansörler dahildir.
2) Bir AB veri tabanına kaydedilmesi gereken sekiz belirli alana düşen yapay zeka sistemleri:
· Gerçek kişilerin biyometrik olarak tanımlanması ve sınıflandırılması
· Kritik altyapının yönetimi ve işletilmesi
· Eğitim ve mesleki eğitim
· İstihdam, işçi yönetimi ve serbest mesleğe erişim
· Temel özel hizmetlere ve kamu hizmetlerine ve avantajlarına erişim ve bunlardan yararlanma
· Kanun yaptırımı
· Göç, iltica ve sınır kontrol yönetimi
· Hukuki yorumlama ve kanunun uygulanmasında yardım[14].
Bu kapsamdaki yüksek riskli yapay zeka sistemleri, bir takım yasal izinlere tabi olacaklardır. “Sınırlı risk sistemleri” (Limited risk), insanların doğrudan bir yapay zeka sistemiyle (sohbet robotları gibi) etkileşime girebildiği veya şeffaflık ve ifşa yükümlülüklerini tetikleyen derin sahteler oluşturan kullanım durumlarını içerir. Bu grup içerisindeki yapay zeka sistemleri ise şeffaflık ilkesi kapsamında bazı yükümlülüklere sahip olacaktır[15].
Diğer kullanım durumlarının çoğu "minimum veya sıfır risk" kategorisine girecektir: şirketler bu tür kullanım durumlarının bir envanterini tutmalıdır, ancak bunlar yapay zeka yasası kapsamında herhangi bir kısıtlamaya tabi değildir. Bu nedenle, yapay zeka sistemlerini geliştiren veya dağıtan şirketlerin, uygun risk sınıflandırmasını belirlemek için kullanım durumlarını belgelemesi ve gözden geçirmesi gerekecektir.
Tüm bu düzenlemelere bakıldığında, regülasyonun model veya araç bazlı bir sınıflandırma değil, olay ve durumlar karşısında kullanıma bağlı gerçekleşecek bir sınıflandırmayı kabul ettiğini söylemek mümkündür.
Avrupa Birliği Yapay Zekâ Tüzüğü içerdiği tüm bu maddeler ile yapay zekanın AB vatandaşlarınca daha iyi tanınması ve yapay zeka sistemlerinin geliştirilip uygulanma aşamalarında önemli standartlar getirmesi ile AB müktesebatında önemli bir yere sahip olacaktır. Ancak Tüzük’ün etkisi Avrupa Birliği’nin sınırları dışında da hissedilecektir. Yapay zeka ile ilgili gerek bireyler arasında gerek devletlerarası ihtilaflarda sadece AB düzenlemesi yeterli olmayacak, devletler de kendi iç düzenlemelerini, teknoloji ve hukuk dünyalarındaki gelişmeler ışığında oluşturacaklardır.
[1] OcakYılmazPartners Hukuk Ofisi – Stajyer [2] OcakYılmazPartners Hukuk Ofisi - Avukat [3] Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi, “Yapay Zekâ” Nedir? <https://cbddo.gov.tr/sss/yapay-zeka/> erişim tarihi 20.07.2023 [4] Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts [5] BOZKURT YÜKSEL Armağan Ebru, “Avrupa Komisyonu’nun Yapay Zekâ Tüzük Teklifi’ne Genel Bir Bakış”, 2022, Türkiye Adalet Akademisi Dergisi <https://dergipark.org.tr/tr/download/article-file/2520688> Erişim Tarihi 11.07.2023 [6] European Parliament News, MEPs ready to negotiate first-ever rules for safe and transparent AI, <https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai> erişim 11.07.2023 [7] The AI Act, <https://artificialintelligenceact.eu/developments/> [8] European Parliament, Artificial Intelligence Act, P9_TA(2023)0236, Amendment 3, s.2 <https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf> erişim 11.07.2023 [9] European Parliament, Artificial Intelligence Act, P9_TA(2023)0236, Amendment 165, s.112 <https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf> erişim 11.07.2023 [10] European Parliament, Artificial Intelligence Act, P9_TA(2023)0236, Amendment 213, s.127 <https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf> erişim 11.07.2023 [11] European Parliament, Artificial Intelligence Act, P9_TA(2023)0236, Amendment 214, s.129 <https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf> erişim 11.07.2023 s.130 [12] European Parliament, EU Legislation in Progress Briefing, The Artifical Intelligence Act, 2023 <https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf> erişim 14.07.2023 [13] Avrupa Parlamentosu ve Konseyi 3 Aralık 2001 tarihli 2001/95/EC Genel Ürün Güvenliğine İlişkin Direktifi - Directive 2001/95/EC of the European Parliament and of the Council of 3 December 2001 on general product safety (General Product Safety), ayrıntılı bilgi için: <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32001L0095> erişim 14.07.2023 [14]European Parliament News, EU AI Act: first regulation on artificial intelligence, <https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence> erişim 14.07.2023 [15] European Parliament, EU Legislation in Progress Briefing, The Artifical Intelligence Act, 2023 <https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf> erişim 14.07.2023
Comments