ChatGPT yazışmaları saldırıdan önce işaretlendi: OpenAI polise bildirmedi iddiası

ChatGPT yazışmaları saldırıdan önce işaretlendi: OpenAI polise bildirmedi iddiası Kanada’da sekiz kişinin yaşamını yitirdiği silahlı saldırı, yalnızca ülke gündemini değil teknoloji dünyasını da derinden sarstı. Olayın ardından ortaya çıkan bilgiler, saldırganın aylar önce ChatGPT üzerinden şiddet içerikli senaryolar yazdığını ve bu içeriklerin şirket içinde incelendiğini gösterdi. Ancak iddialara göre, OpenAI yönetimi bu durumu kolluk kuvvetlerine bildirmeme kararı aldı.

ChatGPT yazışmaları saldırıdan önce işaretlendi: OpenAI polise bildirmedi iddiası

Kanada’da sekiz kişinin yaşamını yitirdiği silahlı saldırı, yalnızca ülke gündemini değil teknoloji dünyasını da derinden sarstı. Olayın ardından ortaya çıkan bilgiler, saldırganın aylar önce ChatGPT üzerinden şiddet içerikli senaryolar yazdığını ve bu içeriklerin şirket içinde incelendiğini gösterdi. Ancak iddialara göre, OpenAI yönetimi bu durumu kolluk kuvvetlerine bildirmeme kararı aldı.

Amerikan basınında yer alan haberlere göre, British Columbia eyaletinde yaşayan 18 yaşındaki Jesse Van Rootselaar, geçen yıl haziran ayında birkaç gün boyunca ChatGPT üzerinden silahlı saldırı temalı kurgular paylaştı. Bu içerikler sistem tarafından işaretlenerek şirket bünyesinde insan incelemesine yönlendirildi. Konuya yakın kaynaklar, bazı çalışanların yazışmaların yetkililere bildirilip bildirilmemesi gerektiğini tartıştığını aktarıyor.

Ancak üst düzey yöneticilerin resmi bir ihbarda bulunmama yönünde karar verdiği öne sürülüyor. Bu karar, saldırı sonrasında OpenAI’nin güvenlik ve etik sorumlulukları konusunda yeni bir tartışma başlattı.

Yedi kişiyi öldürdü, ardından intihar etti

10 Şubat’ta gerçekleşen saldırı Kanada’yı yasa boğdu. Van Rootselaar’ın önce aile evinde annesi Jennifer Jacobs (39) ile 11 yaşındaki üvey kardeşi Emmett Jacobs’u öldürdüğü, ardından bir okula giderek ateş açtığı bildirildi.

Okulda 39 yaşındaki bir eğitim asistanı ile yaşları 12 ve 13 arasında değişen beş öğrenci hayatını kaybetti. Saldırıda 25’ten fazla kişi de yaralandı. Olayın ardından saldırganın silahla intihar ettiği açıklandı.

Kanada federal polisi, zanlının yaklaşık dört yıl önce okuldan ayrıldığını ve geçmişte ruh sağlığı sorunları nedeniyle evine polis çağrıldığını duyurdu. Soruşturma kapsamında belirli bir kişiyi hedef aldığına dair net bir bulguya ulaşılamadığı ifade edildi.

Güvenlik politikaları mercek altında

Yaşananların ardından gözler, ChatGPT’nin geliştiricisi olan OpenAI şirketine çevrildi. Şirket, daha önce yaptığı açıklamalarda, platform üzerindeki konuşmaların zararlı içerik açısından otomatik sistemler tarafından tarandığını ve riskli görülen mesajların insan inceleme ekiplerine iletildiğini belirtmişti.

Ayrıca, başkalarına yönelik yakın ve ciddi fiziksel zarar tehdidi söz konusu olduğunda kolluk kuvvetlerine başvurulabileceği yönünde kamuoyuna açık bir politika çerçevesi sunulmuştu. Ancak söz konusu yazışmaların hangi kriterlere göre değerlendirildiği ve neden resmi makamlara bildirim yapılmadığına dair net bir açıklama bulunmuyor.

Şirket yetkilileri, içeride konuyla ilgili değerlendirmeler yapıldığını doğrularken, karar sürecine dair ayrıntı paylaşmadı. O dönemde yürürlükte olan iç prosedürlerin kamuoyuna açıklanan politikalarla birebir örtüşüp örtüşmediği de belirsizliğini koruyor.

“AI psikozu” iddiaları ve artan hukuki baskı

Olay, yapay zekâ sistemlerinin kullanıcı davranışları üzerindeki etkisine dair tartışmaları da yeniden gündeme taşıdı. Son dönemde OpenAI’ye karşı açılan çeşitli davalarda, bazı kullanıcıların chatbot ile uzun süreli etkileşimlerinin ardından sanrılar yaşadığı ya da intihara sürüklendiği iddia edildi. Şirkete yönelik haksız ölüm ve intihara yardım suçlamaları da kamuoyuna yansıdı.

Uzmanlara göre bu tür vakalar, yapay zekâ sistemlerinin ne ölçüde sorumluluk taşıdığı, hangi durumda ihbar yükümlülüğü doğduğu ve kullanıcı gizliliği ile kamu güvenliği arasındaki dengenin nasıl kurulması gerektiği sorularını daha görünür hale getiriyor.

Kanada’daki saldırı, yalnızca bir güvenlik zafiyeti iddiası olarak değil, aynı zamanda dijital platformların erken uyarı mekanizmalarının sınırlarını test eden bir örnek olarak değerlendiriliyor. Olayla ilgili soruşturma sürerken, teknoloji şirketlerinin riskli içeriklere karşı nasıl bir yol izlemesi gerektiği tartışması da büyüyor.