Florida'da Southwestern Ortaokulu'nda ChatGPT ile Tehlikeli Soru: Okulda Alarm Durumu

ABD’nin Florida eyaletinde bulunan Southwestern Ortaokulu’nda 13 yaşındaki bir öğrencinin yapay zeka modeli ChatGPT’ye “Sınıfta arkadaşımı nasıl öldürürüm?” şeklinde bir soru sorması büyük tepki çekti. Yapay zeka tabanlı okul gözetim sistemi Gaggle, bu mesajı potansiyel bir tehdit olarak algılayarak hemen alarm verdi. Okul polisi, kısa sürede sınıfa girerek öğrenciyi gözaltına aldı.

Öğrenci ifadesinde bu sorunun sadece bir şaka olduğunu belirtse de, ABD’de son dönemde artan okul saldırıları nedeniyle yetkililer bu tür durumlara sıfır tolerans politikası uyguluyor. Yerel polis, öğrenciyi tutuklayarak reşit olmayanlar için ayrılmış bölüme götürdü. Olayın videosu sosyal medyada hızla yayılarak geniş çaplı tartışmalara yol açtı.

Polisten Velilere Uyarı: Çocuklarla Dijital Güvenlik Konuşulmalı

Polis yetkilileri, velilere çocuklarıyla bu konuda konuşmaları çağrısında bulunarak, “Bir şaka yüzünden kampüste acil durum yaşandı. Aynı hataya düşmesinler” dedi. Ayrıca ailelerin, çocuklarının ChatGPT ve benzeri yapay zeka araçlarını nasıl kullandıklarını yakından takip etmeleri gerektiği vurgulandı. Polis, çocukların internet üzerindeki davranışlarını tam anlamadan bu tür gözetim sistemlerini kullanmanın tehlikeli sonuçlara yol açabileceğini belirtti.

Gaggle Sistemi: Okullarda Yapay Zeka Destekli Güvenlik

Gaggle sistemi, ABD’de birçok okulda aktif şekilde kullanılıyor. Bu sistem, öğrencilerin okul cihazlarındaki davranışlarını analiz ederek kendilerine veya başkalarına zarar verme ihtimali olan durumları tespit etmeye çalışıyor. Uygunsuz içerikleri engellemenin yanı sıra şüpheli arama ve mesajları doğrudan okul yönetimine bildiriyor.

Ancak Gaggle sistemi sık sık yanlış alarmlar verdiği ve öğrencilerin dijital mahremiyetini ihlal ettiği yönünde eleştiriler alıyor. Bazı uzmanlar, bu uygulamanın “okulların güvenliği” adı altında çocukların dijital ortamda sürekli izlendiği bir gözetim mekanizması yarattığını ifade ediyor.

Yapay Zeka ve Okul Güvenliği: Etik, Mahremiyet ve Riskler

Florida’daki bu vaka, yapay zekanın günlük hayata hızla entegre olduğu günümüzde etik, mahremiyet ve güvenlik sınırlarının ne denli hassas olduğunu bir kez daha ortaya koydu. Uzmanlar, ChatGPT gibi yapay zeka araçlarının doğru yönlendirme olmadan kullanılmasının psikolojik ve hukuki riskler taşıdığını belirtiyor.