Adaletin Tesisinde Yapay Zeka Halüsinasyon Tehlikesi
Views: 59
Prof. Dr.Bekir Taner Dincer hocanın yapay zeka ve büyük dil modellerinin arka planını anlattığı ufuk açıcı videosunu izledim ve teknolojik beklentilerin ötesine geçerek meseleyi kendi mesleki (hukukçu) penceremden değerlendirmek isterim.
Hukuk alanında uzun zamandır eleştirdiğimiz kopyala-yapıştır mantığı ve dilekçe örnekleri üzerinden standart metinler üretme pratiği, yapay zeka ile bir anda farklı bir boyuta ulaştı. Yapay zeka, ekosistemdeki daha geniş ve detaylı örneklerle ortaya çıkan metinlerin basitlik skalasını bir hayli yükseğe çıkardı ve az/orta tecrübeli olanları bir anda aynı dengeye getirmiş oldu.
Diğer taraftan, büyük hukuk bürolarının da sahip oldukları tecrübe ve olanaklarla, alttan gelen bu baskıyı erken dönemde karşılamak üzere yapay zeka destekli hukuk teknolojilerine yatırım yaptığını gözlemliyoruz. Biz de büro olarak uzun zamandır teknolojiye yatırım yapıp kullanmayı tercih ettiğimizden, her an kullanım koşulları değişebilecek yapay zeka bağımlısı uygulamalar yerine deterministik kodlara odaklandık.
Genel yaklaşımı ele aldığımızda, hocanın argümanları biz hukukçuların yapay zeka karşısındaki konumunu tartışırken gözden kaçırdığımız çok önemli bir tehlikeyi gün yüzüne çıkarıyor. Hocamızın tespitine göre, bugün zeka diyerek hayranlıkla kullandığımız sistemler aslında anlamsal bir kavrayışa sahip değiller. Sadece devasa metin verileri üzerinden kelimelerin yan yana gelme olasılıklarını hesaplayan karmaşık bir matematiksel fonksiyondan ibaretler. Yani sistem okuduğu bir kanun maddesini, sözleşmeyi veya emsal kararı anlamıyor; sadece o bağlamda hangi kelimenin ardına hangisinin gelme ihtimalinin istatistiksel olarak yüksek olduğunu tahmin ediyor.
İşte bir hukukçunun yerini yapay zekanın alması senaryosundaki asıl büyük sakınca da bu yapısal mimaride yatıyor. Hukuk, doğası gereği deterministik bir alandır; neden-sonuç ilişkileri kesin kurallara, anlamsal derinliğe ve somut maddi gerçekliğe dayanır. Adaleti kısaca “herkese ve her olaya aynı ve eşit şekilde uygulanması” olarak tanımlayabiliriz.
Ancak dil modelleri olasılıksal çalışırken, aynı konuda oluşan farklı içtihatlar arasından en doğrusunu değil, olasılığı dikkate alarak farklı sonuç verecek şekilde üretim yapar. Oysa, sui-misal misal olmaz. Halüsinasyon da bu olasılık hesaplamasıyla bir anda ortaya çıkar. Hata toleransının sıfır olduğu, insan haklarının, hürriyetlerin ve ekonomik menfaatlerin etkilenebileceği hukuk dünyasında; olasılıksal bir tahmin motoruna hukuki karar verici veya vekil rolü biçmenin geri dönülemez felaketlere yol açacağı anlaşılıyor.
Yapay zekayı bilgi ve donanımla birleştirip metin işleme aşamasında güçlü bir asistan olarak kullanmak bir hukukçuya hız kazandırır ve mesafeleri hızla kat etmesini sağlar. Ancak adaleti tesis etmek için gereken vicdani muhakemeyi, kelimelerin ardındaki gerçek hayat bağlamını ve sıfır hata prensibini, milyarlarca parametreli bir regresyon eğrisine terk etmeyi düşünmek ürkütücü.
