Şirketlerdeki yapay zekâ hataları nasıl sigortalanacak?

IBS Sigorta ve Reasürans Brokerliği CEO'su Murat Çiftçi, önümüzdeki dönemde yapay zekâ kaynaklı riskler için daha özel sigorta çözümleri ve daha net sorumluluk tanımlarının ortaya çıkabileceğini ifade etti.

Yapay zekâ teknolojileri iş dünyasında verimlilik, hız ve maliyet avantajı sağlarken; şirketlerin karşı karşıya olduğu risk profilini de kökten değiştiriyor. Bugün yapay zekâ sistemleri müşteri yönetiminden insan kaynaklarına, finansal analizlerden üretim süreçlerine kadar birçok alanda karar mekanizmasının bir parçası haline geliyor. Bu durum, operasyonel, hukuki, finansal, itibari ve etik risklerin iç içe geçtiği yeni bir risk alanını da beraberinde getiriyor.

IBS Sigorta ve Reasürans Brokerliği CEO’su Murat Çiftçi, yapay zekâ kaynaklı risklerin yalnızca teknoloji departmanlarının değil, şirket yönetimlerinin ve sigorta sektörünün de gündeminde olması gerektiğini belirterek, “Sigorta sektörü açısından temel soru şu: Risk ölçülebilir mi, denetlenebilir mi ve sorumluluk zinciri net şekilde kurulabilir mi? Eğer bu üç unsur eksikse, sigortalanabilirlik de zorlaşır” dedi.

Yapay zekâ kaynaklı zararların tek bir risk kategorisine sığmadığını belirten Murat Çiftçi, “Bugün en çok karşılaştığımız senaryoların başında veri ihlalleri, siber riskler, hatalı analizler, yanlış fiyatlama kararları ve mesleki sorumluluk sorunları geliyor. Yapay zekâ destekli bir çıktı, müşteriye maddi zarar verdiğinde farklı sigorta branşları aynı anda devreye girebiliyor. Bazen siber sigorta, bazen mesleki sorumluluk, bazen teknoloji hata ve ihmal sigortası, bazen de yönetici sorumluluk poliçeleri gündeme geliyor” diye konuştu.

Şirketlerin yapay zekâyı kullanım şekline göre risk profilinin değiştiğini ifade eden Murat Çiftçi, standart çözümler yerine kurumların faaliyet alanlarına özel risk değerlendirmelerinin önem kazandığını söyledi.

‘Yapay zekâ kullandım’ demek sorumluluğu ortadan kaldırmıyor

Yapay zekâ kaynaklı zararlarda en önemli tartışma başlıklarından birinin sorumluluğun kime ait olduğu olduğunu belirten Murat Çiftçi, “Modeli geliştiren teknoloji şirketi, sistemi entegre eden hizmet sağlayıcı, veriyi sağlayan kurum, sistemi kullanan çalışan ve nihai kararı uygulayan şirket aynı zincirin farklı halkaları. Sigorta sektörü zararın hangi aşamada ortaya çıktığını analiz ederek sorumluluk dağılımını değerlendiriyor” dedi.

Önümüzdeki dönemde şirketlerin teknolojik araçları gerekçe göstererek sorumluluktan kaçmasının mümkün olmayacağını vurgulayan Murat Çiftçi, “Yapay zekâ kullandım, sorumluluk bende değil “ yaklaşımı kabul görmeyecek. Özellikle kredi değerlendirmesi, sağlık uygulamaları, insan kaynakları ve finansal kararlar gibi yüksek etkili alanlarda insan denetimi kritik önem taşıyor” diye konuştu.

Sigorta sektörü yapay zekâya özel teminatlara hazırlanıyor

Yapay zekânın yaygınlaşmasıyla birlikte mevcut sigorta ürünlerinin yeniden şekilleneceğini belirten Murat Çiftçi, “Bugün bazı riskler mevcut siber sigorta, teknoloji hata ve ihmal, mesleki sorumluluk ve yönetici sorumluluk poliçeleri kapsamında değerlendirilebiliyor. Ancak yapay zekânın karar alma süreçlerindeki etkisi arttıkça yeni teminat ihtiyaçları da ortaya çıkacak” dedi.

Murat Çiftçi, önümüzdeki dönemde yapay zekâ hata ve ihmal teminatları, algoritmik karar sorumluluğu, veri setlerinden doğan sorumluluklar, yapay zekâ kaynaklı iş durması, model performans riski, deepfake kaynaklı zararlar ve yapay zekâ destekli dolandırıcılık vakalarına yönelik özel çözümlerin daha fazla gündeme geleceğini belirtti.

İnsan denetimi sigortalanabilirliğin temel şartlarından biri olacak

Şirketlere yönelik önerilerini paylaşan Murat Çiftçi, öncelikle kurumların kullandıkları yapay zekâ araçlarını görünür hale getirmesi gerektiğini söyledi. Yapay zekâ envanteri oluşturulmasının, kullanım alanlarının risk seviyelerine göre sınıflandırılmasının ve teknoloji tedarikçileriyle yapılan sözleşmelerin yeniden gözden geçirilmesinin önemine dikkat çekti.

İnsan kontrolünün yapay zekâ yönetiminin vazgeçilmez unsuru olduğunu belirten Murat Çiftçi, “İnsan denetimi yalnızca sembolik bir onay süreci olmamalı; sistemi sorgulayabilen, çıktıyı değerlendirebilen ve gerektiğinde kararı durdurabilen gerçek bir kontrol mekanizması haline gelmeli. Yapay zekâ karar destek aracı olabilir, ancak kritik kararların tamamen algoritmalara bırakılması şirketler için ciddi risk yaratır” dedi.

IBS Sigorta ve Reasürans Brokerliği olarak yapay zekâ kaynaklı riskleri yakından takip ettiklerini ifade eden Murat Çiftçi, “Hedefimiz şirketlerin yapay zekâ kullanımına yalnızca verimlilik perspektifinden değil, sigortalanabilir risk perspektifinden de bakmasını sağlamak. Önümüzdeki dönemde şirketlerin yapay zekâ risklerini analiz eden, mevcut sigorta programlarını bu açıdan değerlendiren ve ihtiyaç duyulan teminat yapılarını uluslararası piyasa kapasitesiyle buluşturan daha bütüncül çözümler üzerinde çalışıyoruz. Yapay zekâ iş dünyasının geleceğini şekillendirecek; sigorta sektörü de bu geleceğin güvenli ve sürdürülebilir şekilde inşa edilmesinde kritik rol oynayacak” değerlendirmesinde bulundu.