Flera skoldistrikt i USA använder teknik för att övervaka skolans bärbara datorer eller surfplattor dygnet runt för att upptäcka farosignaler. Detta på grund av psykiska problem hos många elever och hotet om skjutningar.
AP ingår i ett samarbete med åtta nyhetsorganisationer som undersöker de oavsiktliga konsekvenserna av AI-driven övervakning i amerikanska skolor.
Utöver AP ingår bland annat AL.com, The Christian Science Monitor, The Dallas Morning News, The Hechinger Report, Idaho Education News, The Post and Courier i South Carolina och The Seattle Times i samarbetet.
Samarbetande journalister från The Seattle Times och Associated Press fick oavsiktligt tillgång till nästan 3 500 känsliga, oredigerade studentdokument via en begäran om tillgång till övervakningsteknik som lämnades in i Vancouver, Washington.
Dokumenten visar att eleverna använde de bärbara datorerna till mer än bara skolarbete. De hanterar också personliga utmaningar.
Studenterna skrev om depression, hjärtesorg, självmord, missbruk, mobbning och ätstörningar. Det finns dikter, collegeuppsatser och utdrag från rollspelssessioner med AI-chatbots.
I Vancouver-fallet kunde personalen på de skolor som använde AI-programvaran och andra med tillgång till filerna läsa allt, enligt nyhetsbyrån AP. Det fanns ingen brandvägg eller lösenord som skyddade dokumenten. Namnen på eleverna var inte censurerade. Detta ses som en enorm säkerhetsrisk av säkerhetsexperter.
Övervakningsverktygen gjorde det dock ofta möjligt för studievägledare att komma i kontakt med studenter som annars skulle ha kämpat i tystnad.
Å andra sidan har tekniken också i vissa fall exponerat HBTQ+-elever och försvagat förtroendet mellan elever och skolpersonal. Samtidigt gör den inte heller skolorna helt säkra.
I USA använder 6 miljoner elever enheter som spårar all deras aktivitet på nätet med hjälp av programvaran Gaggle. Andra företag som GoGuardian och Securly erbjuder liknande tjänster.
Efterfrågan har varit stor efter pandemin, då nästan alla skolbarn fick en surfplatta eller laptop.
– Jag tror inte att vi någonsin kan sätta ett pris på att skydda elever. Varje gång vi lär oss något och kan ingripa känner vi att det är mycket positivt, säger rektor Andy Meyer på Skyview High School i Vancouver.
Dacia Foster är förälder. Hon berömmer skolan för dess insatser, men är också bekymrad över kränkningar av den personliga integriteten. Hon reagerade på detta sätt när hon fick veta att skolan av misstag hade lämnat ut 3 500 dokument om elever.
– Det är inte alls bra. Men vad har jag för val? Vad ska jag göra? Ska jag ta mitt barn ur skolan? frågar Dacia Foster.
Foster säger att hon skulle bli upprörd om hennes dotters datorinformation kom på avvägar.
– Samtidigt vill jag undvika en skolskjutning eller ett självmord, säger hon till AP.
Övervakningsprogrammet Gaggle använder en maskininlärningsalgoritm för att skanna vad eleverna söker efter eller skriver på nätet via en bärbar dator eller surfplatta som skolan har gett ut. Detta sker dygnet runt, eller när de loggar in med sitt skolkonto på en privat enhet.
Algoritmen upptäcker möjliga indikationer på problem som mobbning, självskadebeteende, självmord eller skolvåld. Den skickar sedan en skärmdump för mänsklig granskning. Om Gaggles anställda bekräftar att situationen kan vara allvarlig meddelar företaget skolan.
I Vancouver flaggades över 1 000 dokument för självmord och nästan 800 för hot om våld. Även om många varningar var allvarliga visade sig många vara falsklarm. Det kan till exempel handla om en studentuppsats om vikten av samtycke eller en skämtsam chatt mellan vänner. På Vancouver School of Arts and Academics utlöste ungefär en av fyra studentmeddelanden en Gaggle-varning.
Även om skolor fortsätter att använda övervakningsteknik är de långsiktiga effekterna på elevernas säkerhet oklara. Det finns ingen oberoende forskning som visar att tekniken specifikt minskar självmordsfrekvensen eller våldet.
En studie från tankesmedjan Rand publicerad 2023 fann endast ”sporadiska bevis” för både för- och nackdelar med AI-övervakning.
Ingen forskning har hittills grundligt undersökt hur dessa program påverkar förebyggande av självmord bland ungdomar, enligt studiens slutsats.
På många ställen är både elever och föräldrar omedvetna om AI-övervakning. Men även när familjer får veta om skolövervakningen kan de ofta inte välja bort den.
Skolledare säger att de inte för statistik över hur effektiva systemen är, men tror att de har räddat liv.
Gaggles VD Jeff Patterson säger att skolans enheter inte är rätt plats för obegränsat självuttryck.
– Om du letar efter ett öppet, fritt uttryck kan det inte riktigt ske på skolans datorer, säger han till AP.
