Yapay Zeka (YZ) uygulamaları son yıllarda giderek genişledikçe insanların Yapay Zeka’yı anlama arzusu da artmaktadır. Açıklanabilir Yapay Zeka (AYZ) (Explainable Artificial Intelligence XAI), son yıllarda ortaya konulan bir kavram ve bu kavram özellikle günümüzdeki YZ araştırmalarında sıklıkla tartışılmaktadır. AYZ çeşitli YZ uygulamalarının (insan) kullanıcıları tarafından anlaşılabilir olmasını amaçlayan yöntem ya da tekniklerin bütününe verilen kavramsal bir addır. AYZ kavramı, black box (kara kutu) olarak da bilinen, genel olarak kavranması zor bir iç işleyişi olan YZ kararları ya da edimleri arkasındaki bilgisayımsal çıkarımların genel kullanıcı tarafından açık veya anlaşılabilir olduğu kavramsal dizgenin karşıtıdır. Çoğu Deep learning (derin öğrenme) ve genetic algorithms (genetik algoritmalar) uygulamaları çok karmaşıktır, dolayısıyla bu anlamda açıklanabilir değildir. İleri seviye YZ uygulamaların başarıları ile birlikte gelen karmaşıklık ise açıklanabilirliği oldukça zorlaştırmaktadır. Bu nedenle yapay öğrenme sistemlerinin temelinde yer alan sorunlardan biri şeffaflık ve yorumlanabilirliktir.
AYZ ilk olarak belirli yapay zeka sistemleri kararlarını ve edimlerini açıklayabilmeyi amaçlamaktadır. Bunun gerçekleşebilmesi için öncelikle belirli AYZ sistemlerinin ifade edilebilirlik problemi olarak bilinen bir mantıksal-kavramsal bir zorluğun üstesinden gelmelidir. Bu zorluk temel olarak anlamsal bir kavram olan ifade edilebilir ve yapay dillerin anlamsal ağlar üzerinden doğal dillere çevrilerek anlaşılabilir olmalıdır. Bu nedenle öncelikle açıklanabilirliğin anlamsal ölçütleri ortaya konulmalıdır. AYZ bağlamında, açıklama kavramı ifade edilebilirliğin bir koşulu olarak iki anlamı içerir. İlk olarak, dilsel bir ifade olarak belirli YZ sisteminin uslamlaması sonucu hakkında anlaşılabilirliği; ikinci olarak da YZ sisteminin detaylı, betimleyici ve kesin dilsel örneklemelerini içerir. İkinci olarak yapay öğrenme modellerinin ilintili olduğu YZ sistemlerinin sıklıkla opak olduğu ifade edilmektedir. Örneğin, YZ görüntü işleme tekniği tarafından tanımlanan bir resim içindeki arabanın, nasıl bir araba olarak tanımlandığı genel kullanıcılarına çok açık değildir. Araba çıkarımı aynalarıyla ve camlarıyla belirli araba biçimlerinden yola çıkarak mı, yol ve şeritlerden mi yoksa tamamen farklı ölçütlerden mi gerçekleştiği (genel kullanıcıları için) belirsizdir. Bu nedenle opak olarak nitelenmektedir. Burada özellikle son kullanıcıları ilgilendiren belirli sorular öne çıkmaktadır Bu kararların gerçekten sağlam ve gerekçelendirilmiş ölçütlerden çıkarsandığına nasıl emin olabiliriz? YZ kararlarına nasıl güvenebiliriz? AYZ’nın getireeği açıklamalar YZ ve uygulamalarına olan güvenimizi artırabilir mi?
Açıklanabilirlik kavramı üzerinde bir çalışma alanı olarak AYZ hakkında edinebileceğimiz ölçütler ve bunlara olan güvenilebilirliği konusunda yeni projeler yapılmaktadır. Özellikle bilgisayar bilimleri, kavramsal modelleme ve ontoloji alanındaki araştırmacılar ve teknoloji şirketleri bu konuya son zamanlarda daha fazla eğilmektedir. Dahası YZ uygulamalarını son kullanıcılarına sunan bilişim sektörü, bankalar, sigorta şirketleri ve sağlık hizmeti için YZ sistemleri farklı etik ve hukuki düzenleme ihtiyacını beraberinde getirmeleridir.
Veri bilimi çağında pek çok YZ uygulamasıyla hayatımız kolaylaşma devam ediyor. Sürücüsüz arabalar, tıp alanında tanı sistemleri, bankacılık ve borsada sanal ticaret gelişmiş YZ uygulamalarının birer örnekleri sadece. Ancak burada özellikle insan yaşamı başta olmak üzere sınır durumlar sıklıkla karşılaşılmakta. Hayati, iktisadi ve hukuki açılardan YZ’ya verilen bu kadar görev beraberinde doğal olarak anlaşılabilir olmanın yükünü de getiriyor. Açıklanabilirlik burada zekanın yapaylığının insan zihni tarafından erişebilir olmasını sağlamayı amaçlıyor, tıpkı insanların kararları verirken bu kararın altında yatan uslamlamanın açıklanabilir temellere dayanması gibi. Mesele karmaşık algoritmalara, derin yapılara, sinirler ağlara ve diğer benzeri sistemlere dayanan yapılar olduğunda yapay öğrenmenin kendisini bu opaklıktan kurtararak insan zihni tarafından erişebilir olmasının sezgiselliği kuvvetlendirecek olmasıdır. Sonuç olarak, AYZ’nin en temel amaçlarından biri bu zihinsel erişimi açıklanabilirlik ve anlaşılabilirlik üzerinden sağlamaktır. Bunun gerekliliği belki IBM, Google, DARPA gibi büyük kullanıcılar tarafından benimsendiği için AYZ diğer YZ alanları için birer uygulama zemini oluşturmaktadır.
Açıklanabilirliğin kendisi kadar anlaşılabilirliğin basitliği de YZ uygulamalarının karmaşıklığı konusunda belirli bir tezat oluşturduğu kabul edilen bir gerçek. AYZ’nin vaadettiği bu boşluğu doldurup doldurmadığı bir kaç yıl içinde belli olacak. Kazanılması amaçlanan açıklanabilirlik ve anlaşılabilirlik, YZ uygulamaları kullanıcılarının belki tamamı olmasa da ilgili çoğunluğu tarafından erişebilir olması, üstel bir şekilde artan YZ teknolojilerinde yeni bir çığır açabilir.