Tânia Rêgo / Agência Brezilya
Bir “Yapay Zeka dedektifi” çok basit bir şey yapıyor: Ona bir metin bloğu veriyoruz ve o da bize burada anlatılan yaralanmanın şiddet içeren bir kökene sahip olup olmadığını söylüyor.
Şiddet bazen göz önünde saklanır, özellikle de yoğun bir hastanenin acil servisinde.
Arasında yorgun takımların kaosu ve aşırı yüklenmiş ve kurbanların isteksizliği Genel olarak cinsiyete dayalı şiddet ve saldırganlık sıklıkla ortaya çıkıyor fark edilmemiş.
İtalya’da geliştirilen yeni bir Yapay Zeka sistemi artık bu kusurun üstesinden gelmeyi hedefliyor ve ilk testlerde zaten başarılı oldu. binlerce lezyon tespit edildi ülkenin sağlık profesyonellerinin sahip olduğu yanlış etiketlenmiş.
Proje bir disiplinlerarası çaba Torino Üniversitesi, yerel sağlık birimi ASL TO3 ve Mauriziano Hastanesi’ni içeriyor. Koordinasyon sorumlusu Daniele RadicioniTorino Üniversitesi Bilgisayar Bilimleri bölümünde doçent.
“Bizim sistemimiz çok basit bir şey yap: ona bir metin bloğu veriyoruz ve o da bize orada açıklanan yaralanmanın olup olmadığını söylüyor şiddet içeren bir kökene sahip olup olmaması muhtemeldir”, Radicioni açıkladı ZME Bilimi.
Ekibin bir c’ye erişimi vardıçok büyük veri seti: Istituto Superiore di Sanità’dan (ISS) 150 milyon acil durum kaydı ve Mauritian Hastanesi’nden 350 milyondan fazla acil durum kaydı.
Amaç şuydu: bilgisayara “tarama notlarını” okumayı öğretin — hemşireler ve doktorlar tarafından yazılan yüz yüze klinik değerlendirmeler. Sistem tıbbi görüntüleri kullanmaz: yalnızca bu notlarla çalışır.
Sorun şu ki Bu notlar düzensiz. Hastaneden hastaneye değişirler ve doludurlar. kısaltmalar, yazım hataları ve klinik jargon. Bunları yorumlamak için araştırmacılar, özel bir model de dahil olmak üzere çeşitli yapay zeka mimarilerini eğitti. BERtino.
BERtino önceden eğitildi özellikle İtalyan dili için. GPT gibi büyük ölçekli modellere göre daha hafif ve hızlıdır, bu da onu sınırlı kaynaklara sahip hastane bilgisayarları.
Genellikle kendilerini aramayla sınırlayan eski sistemlerin aksine “yumruk” veya “vurmak” gibi anahtar kelimeler, Bu model bilim adamlarının “dikkat mekanizması”: cümlenin yapısını bir bütün olarak analiz eder bağlamı anlamakörneğin “araba çarpması” (kaza) ile “bir partnerin çarpması” (şiddet) arasındaki farkı ayırt etmek.
Verilerdeki boşluk
Araştırmanın başında araştırmacılar şunu fark etti: garip tutarsızlık. Ulusal veri tabanında (ISS), yaralanmaların yaklaşık %3,6’sı şiddetli olarak işaretlendi. Ama Torino’daki Mauriziano Hastanesi’nde, bu değer düştü sadece %0,2’ye düştü.
Torino çok daha güvenli bir şehir olur muydu? Yoksa bir şeyler mi eksikti??
İyi bir test alanıydı. Ekip, algoritmanın şiddet içermeyen olarak sınıflandırılan yaklaşık 360.000 hastane kaydına yapay zeka uygulayarak, algoritmanın şiddet içermeyen bir durumu tespit edip etmediğini kontrol etti. insanlar tespit etmemişti.
Sonuçlar rahatsız ediciydis: sistem 2.085 kaydı şu şekilde işaretledi: potansiyel olarak şiddet içeren. Araştırmacılar bunları manuel olarak analiz ettiğinde, 2.025’in aslında şiddetten kaynaklanan yaralanmalara karşılık geldiğini doğruladılar.
“Ey Hastane Maurizianoönlemede çok etkili çalışıyorRadicioni şunları söyledi: “Bu nedenle sayıların düşük olması, bazı şiddet olaylarından kaçınılmasından kaynaklanıyor olabilir.”
Araştırmanın yazarları, yine de şiddetin yeterince tespit edilmemesi ve yeterince rapor edilmemesinin devam ettiğini söylüyor. Bu eksik tespit özellikle aile içi şiddette yaygındır.
Tanımlanması çok zor
İtalyan Ulusal İstatistik Enstitüsü’nün (ISTAT) en son verilerine göre, yalnızca Şiddete uğrayan kadınların yüzde 13,3’ü bunu bildiriyorSaldırganın mevcut ortak olması durumunda bu oran %3,8’e düşüyor.
Kadınlar, partnerleri tarafından maruz kaldıkları şiddeti nadiren açığa vuruyorlar. finansal olarak onlara bağlımisillemelerden korkun veya utanç hissedin. Onlar da yapabilirlereeear suçlanıyor — birçok ülkede önemli olmaya devam eden bir sorun.
Yapay Zeka, şiddeti tespit etmenin yanı sıra, potansiyel olarak buna kimin sebep olduğunu belirleyin. Ayrı bir görevde model, saldırganı partner, aile üyesi veya hırsız arasında ayrım yaparak sınıflandırmaya çalıştı.
AIA “Saldırganın tahminini” ele alarak yaralanmaya kimin sebep olduğunu ayırt eder gibi bağımsız sınıflandırma görevi.
Bir kaydın şiddet içerdiği belirlendikten sonra model, metni yeniden analiz ederek Faili sekiz spesifik kategoriden birine atayın. Notta “kocası tarafından saldırıya uğradı” yazıyorsa sistem bunu kategoriyle ilişkilendiriyor Eş/Partner. Metin bir soygunu anlatıyorsa, ajanı şu şekilde sınıflandırın: Hırsız.
Bu yeni bir şey eklemiyormuş gibi görünebilir ancak yapay zeka, “şiddet içermeyen” olarak işaretlenmiş, gösterimde metin yazıldığında bile açık şiddet işaretleri içeriyordu.
Notta şöyle yazıyorsa: “Hasta merdivenlerden düştü“, ancak kişi aslında itildi ve kimseye söylemedi, yapay zekanın bunu tespit etmesinin hiçbir yolu yok. Ancak notta şöyle yazıyorsa: “Hasta eşinin saldırganlığını anlattı” ve vaka “kaza” olarak etiketlenmiş olsa bile yapay zeka bunu tespit ediyor.
Bu tür hatalar şaşırtıcı derecede sık görülür.
Yaralanmanın kaynağını belirlemek çok önemlidir çünkü fiziksel şiddet, yaralanmanın güçlü bir göstergesidir. gerilimi artırma. Radicioni, “Öldürülen kadınların büyük çoğunluğu daha önce şiddet olayları nedeniyle acil servise gitmişti” diye vurguluyor. Bu vakaları erken tanımlayın kelimenin tam anlamıyla hayat kurtarabilir.