Yapay Zekanın (YZ) günümüzde oldukça yaygın biçimde kullanılmaya başlaması ile birlikte geleceğe ilişkin bazı öngörüler de ortaya atılmış bulunmaktadır. Bunlar arasında en çok bahsi geçenler, otonom araçların ortaya çıkması, enerjinin yönetimi gibi kritik konular da dahil olmak üzere birçok karar alma süreçlerinin yapay zekaya bırakılması ve insan istihdamının azalmasıdır.
Yapay zekanın toplumsal alanda birçok faaliyeti insanın elinden alması ister istemez şu soruyu akla getirmektedir: Eğer önemli faaliyetleri yürüten yapay zeka sistemlerinde ciddi bir aksama olur ise bozulan kamu düzeni yeniden nasıl tesis edilecektir?
YZ sistemleri arasındaki farklılıklara bağlı olarak bu aksama bir şirketin ticari işlerini bir süre göremez hale gelmesi şeklinde olabileceği gibi bir ülkenin savunma sistemlerinin tümüyle çökmesi biçiminde daha ciddi bir hal de alabilir. Söz konusu aksama YZ sistemindeki bir hatadan kaynaklanabilceği gibi bir siber saldırı ya da benzeri bir eylemin sonucu da olabilir.
Özellikle önemli kamusal faaliyetlerde yapay zekanın kullanılması halinde bu tür aksaklıkların yaratabileceği kamu düzeni bozukluklarını önlemek için olağan dönem kolluk tedbirleri yeterli olmayabilir. Olağanüstü hallerde uygulamaya giren düzenlemelerimiz gözönünde bulundurulduğunda henüz YZ kaynaklı olağanüstü durumlar için gerekli özel düzenlemelerin eksikliği dikkati çekmektedir.
Avrupa Birliği Yapay Zeka Kanunu (Tüzüğü) (ABYZK) incelendiğinde “olağanüstü” durumlara ilişkin bazı hükümlere yer verildiği görülmektedir. Ancak bu düzenlemelerin de bir “olağanüstü hal”’i kapsadığını söylemek mümkün görünmemektedir.
Gerçekten, ABYZK’nun 3. Maddesinde (49) “ciddi vakalar” tanımlanmıştır. Buna göre:
“…Ciddi vaka doğrudan veya dolaylı olarak aşağıdakilerden herhangi birine yol açan bir yapay zeka sisteminde yaşanan bir olay veya arıza anlamına gelir:
(a) bir kişinin ölümü veya sağlığına ciddi zarar vermesi;
(b) kritik altyapının yönetimi veya işletilmesinde ciddi ve geri dönüşü olmayan bir kesinti olması;
(c) temel hakları korumayı amaçlayan birlik hukuku kapsamındaki yükümlülüklerin ihlali;
(d) mülke veya çevreye ciddi zarar verilmesi;…”
Ciddi bir vakanın ortaya çıkması halinde ABYZK’na göre ulusal idarelere ve Birlik otoritelerine bildirimde bulunma (md.73; md.26; md.55) ve farklı maddelerde ilgili piyasa aktörleri tarafından, YZ’nın düzeltilmesi, devre dışı bırakılması, piyasaya sürülmesinin engellenmesi ya da piyasadan toplatılması gibi tedbirlerin alınması öngörülmüştür (md.20/1).
Pekiyi bu tedbirler her zaman yeterli midir?
Biz, ABYZK’nda öngörülen bu tedbirlerin bazı hallerde ciddi biçimde bozulabilecek kamu düzenini yeniden tesis etmek bakımından yeterli olamayabileceğini düşünüyoruz.
Bu noktada öncelikle akla, ABYZK’nun Ek-III’ün 2. Fıkrası gelmektedir. Buna göre; “Kritik dijital altyapının, karayolu trafiğinin veya su, gaz, ısıtma veya elektrik tedarikinin yönetimi ve işletiminde güvenlik bileşenleri olarak kullanılmak üzere tasarlanmış yapay zeka sistemleri” yüksek risklidir.
Ellibeş numaralı gerekçede (recital) de bu tür altyapılarda ortaya çıkabilecek sorunların toplumun önemli bir kesimine etkisi olacağını ve sosyal ve ekonomik alandaki faaliyetlerin olağan seyrini bozabileceği vurgulanmıştır.
Gerçekten, özellikle enerji alanında kullanılacak YZ sistemlerinde aksaklık meydana geldiğinde kamu düzeninin ciddi biçimde bozulması ihtimal dahilindedir.
Diğer yandan, ABYZK’nun “milli savunma” ve “milli güvenlik” konularını düzenleme dışı bıraktığı hatırlanmalıdır. Güvenliği ilgilendiren konularda YZ’nın statüsünü belirlemek kural olarak üye ülkelerin takdirine bırakılmıştır (md.2/3).
Ülke savunması ve iç güvenliğin sağlanmasına ilişkin faaliyetlerde kullanılacak YZ’larda sistemsel bir aksaklığın ortaya çıkması ya da siber saldırı vb.. eylemlerle “çıkarılması” durumunda da bozulan kamu düzeninin olağan döneme ilişkin tedbirlerle geçiştirilmesi mümkün olamayabilir. Bu tür durumlar için yedek sistemler üretilmesi, gerektiğinde özel kişiler elindeki YZ sistemlerine el koyulması ya da bu alanda çalışan kişilere çalışma yükümlülükleri getirilmesi gibi tedbirlerin düzenlenmesi gereklidir.
Kanaatimizce bir “olağanüstü hal” ya da en azından bir olağanüstü “dönem” düzenlemesi gerektiren bir diğer gerekçe, YZ’nın toplumsal hayatta rolünün giderek artmasıyla birlikte önceden insanlar tarafından yapılan işleri üstlenmesi ile ilgilidir. YZ’nın gelecekteki etkilerine ilişkin öngörülerden biri de birçok mesleğin ortadan kalkacağı ya da o alanda çalışan insana ihtiyacın azalacağıdır.
Bu durum uzun vadede, YZ’nın üstlenmiş olduğu işte uzman insan gücünün azalması ya da ortadan kalkması sonucunu doğurabilir. Oysa, YZ sistemlerinde ciddi bir aksaklık meydana gelirse işlerin önceden olduğu gibi insanlarca görülmesinin zorunlu hale geleceği bir dönem yaşanabilir. Böyle bir durumda söz konusu işi yapabilecek insanların hazır durumda bulunmasını sağlayacak tedbirlerin alınması kanaatimizce zorunludur.
Sonuç olarak, YZ’nın kontrolden çıkması durumunda alınacak tedbirlerin hukuk devletinin önemli unsurları olan belirlilik ve öngörülebilirlik ilkeleri gereği olağanüstü hal kanununa eklenecek bir bölüm ya da yeni bir kanunla önceden düzenlenmesi gerekmektedir.