Lényeges hangsúlyozni, hogy
az esettel nem értek véget a lány megpróbáltatásai: a bíróság nyolc hét házi őrizetet, pszichológiai vizsgálatot és húsz nap alternatív iskolai nevelést rendelt el. Az iskola, a Fairview Középiskola (Fairview Middle School) Tennessee államban található, ahol 2023-ban zéró toleranciát vezettek be minden, iskolát fenyegető vagy közösségi erőszakra utaló megnyilvánulással szemben. Az ilyen mondatok és viccek automatikusan a hatóságok elé kerülnek.
Robotok figyelnek minden mozdulatot
Az Egyesült Államok iskoláinak ezreiben működnek olyan szoftverek, mint a Gaggle vagy a Lightspeed Alert. Ezek a programok vizsgálják a diákok e-mailjeit, üzeneteit, jegyzeteit és minden, az iskolai fiókokhoz kötődő tevékenységüket, hogy kiszűrjék a veszélyes gondolatokat. Az MI automatikusan értesíti a tanárokat, és gyakran a rendőrséget is, ha veszélyt sejt. Tanárok szerint a technológia életeket menthet, civil jogvédők szerint viszont kriminalizálják vele a gyerekeket, akik gyakran figyelmetlenségből írnak meggondolatlanul.
Mindazonáltal több állam, köztük Tennessee is, az iskolai lövöldözések árnyékában kíméletlenül kezeli a fenyegetéseket.
A privát üzenetek sem titkosak
Gyakori, hogy a diákok nincsenek tudatában annak, hogy baráti chatjeiket is figyelik, az algoritmusok pedig mindent átvizsgálnak. Egy floridai középiskolás lány például egy privát Snapchat-sztoriban viccelt lövöldözéssel, a rendszer ezt azonnal jelentette az FBI-nak, és a diákot órákon belül őrizetbe vették.
Egy másik esetben a Dreyfoos Művészeti Iskolában (Dreyfoos School of the Arts) egy tanár kérdezett egy helyi diákújságnak: mint kiderült, két gyerek a gépéről tett fenyegető kijelentést, majd törölte azt, de a Lightspeed azonnal jelentett, és öt percen belül elvitték őket.
A diákok számára tehát sokszor jóval súlyosabbak a következmények, mint egy felnőtt esetében: ha egy felnőtt törli a gépéről a rasszista vagy fenyegető tréfát, jó eséllyel kerülheti el a rendőrségi ügyet.
Az MI mentális krízisre is riaszt
A rendszer nemcsak erőszak gyanúja esetén lép működésbe; a szoftver képes veszélyes mentális állapotokat, öngyilkossági hajlamot is jelezni – még ha sok is a téves riasztás. Floridában, Polk megye 100 ezer diákja közül négy év alatt közel 500 Gaggle-riasztást kaptak a hatóságok, ezek közül 72 esetben kényszer-pszichiátriai vizsgálatot is elrendeltek. Sokan megrázó emlékként őrzik az elszállítást, ami jogvédők szerint gyakran inkább traumatizálta őket, mintsem segített volna rajtuk.
A téves riasztások aránya aggasztó
Kevés adat szivárog ki arról, hogy a szoftverek mennyire hatékonyak, illetve milyen arányban jeleznek tévesen. Egy kansasi iskolakörzetben egy tanév alatt több mint 1200 riasztás keletkezett a Gaggle révén, de a vezetők kétharmadukat teljesen tévesnek, ártalmatlannak minősítették, köztük több százat, amelyek például csak egy házi dolgozat bizonyos szavait tartalmazták.
Nem egy diákot meztelenség miatt hívtak be az igazgatóhoz, de kiderült, hogy a rendszer egy ártatlan képet szűrt ki rosszul, a tanulók saját készülékükkel tudták igazolni ártatlanságukat. Sok diák úgy érzi, hogy az MI megfigyelés a bizalmatlanság és elidegenedés érzését erősíti: az egyik, 2024-ben végzett tanulót például csak azért figyelmeztette a Gaggle, mert barátja egyetemi jelentkezésében szerepelt a “mentális egészség” kifejezés.
Megment, vagy inkább ront?
A rendszer ellenzői szerint az MI látszólagos megoldása csupán elodázza a tinédzserkori mentális krízisek mélyebb gyökereinek kezelését. Kansasban diákok egy csoportja ezért be is perelte az iskolai rendszert az alkotmányos jogaik megsértésére hivatkozva.
Az iskolavezetők hangsúlyozzák, hogy a technológia több tucat valós fenyegetés vagy öngyilkossági kísérlet megelőzésében segített. Ezért felmerül a kérdés: megér-e mindez néhány ártatlan téves riasztást a nagyobb közösségi biztonságért cserébe? Mindenesetre sok szülő és diák számára a legmaradandóbb „sebek” közé tartozik, ha az iskolás már nem bízik a saját környezetében – és ehhez elég lehet egyetlen, rosszul sikerült poén is.
