Un grafic generat de un chatbot despre traseul unei furtuni a fost suficient de convingător pentru a ajunge la public, dar suficient de inexact încât să-i îngrijoreze pe specialiști. Episodul arată miza folosirii inteligenței artificiale în avertizările de urgență: un mesaj mai rapid și mai limpede poate salva timp, însă o eroare transmisă de autorități poate costa încrederea — și, în situații extreme, vieți.
Materialul a fost realizat de Grist și publicat împreună cu WIRED, în cadrul seriei Distorted, despre dezinformarea apărută după fenomene meteo extreme. Seria a fost publicată cu sprijinul CO2 Foundation.
Sursă foto: media.wired.com### Graficul care a transformat o intenție bună într-un avertisment greșit
La începutul lunii menționate în relatare, după ce uraganul Isaias a atins coasta Golfului Mexic la categoria 3, Laura Myers, directoarea Centrului pentru Siguranță Publică Avansată de la Universitatea din Alabama, a fost sunată de un meteorolog din stat. Un responsabil local pentru situații de urgență publicase un grafic despre zonele de pe coasta Alabamei care ar putea fi amenințate de un „sting jet”, un curent de aer cu vânturi puternice.
Graficul fusese creat cu ajutorul unui chatbot de inteligență artificială și nu era corect din punct de vedere meteorologic. Myers a explicat că responsabilul voia să le atragă atenția partenerilor asupra riscului din comitatul său; instrumentul i-a îndeplinit cererea, dar rezultatul nu respecta realitatea meteorologică.
Episodul ilustrează diferența dintre un material care pare util și unul care poate fi folosit în siguranță într-o criză. Un sistem generativ poate redacta sau ilustra rapid o ipoteză, însă nu devine prin asta o sursă de prognoză verificată și nici nu preia răspunderea autorității care publică informația.
Majoritatea agențiilor de management al situațiilor de urgență nu le permit oficial angajaților să folosească AI generativă. Totuși, Myers și alți specialiști cred că utilizarea informală este deja răspândită la nivel local și statal, iar sute de companii promovează instrumente pentru evaluarea pagubelor produse de inundații, coordonarea resurselor și comunicarea cu publicul.
Când formularea unei alerte devine parte din răspunsul de urgență
Managerii pentru situații de urgență coordonează intervenția și recuperarea după dezastre. La nivel local și statal, ei și agențiile lor sunt adesea prima linie de apărare, nu Agenția Federală pentru Managementul Situațiilor de Urgență din SUA (FEMA); relația cu publicul poate construi încrederea de care depinde respectarea instrucțiunilor.
Comunicarea este însă dificilă chiar și pentru profesioniști. Mesajele pot folosi jargon pe care publicul nu-l înțelege, pot presupune că destinatarii cunosc deja informații esențiale ori se pot pierde în detalii fără legătură cu acțiunea imediată, tocmai când oamenii au nevoie de instrucțiuni simple și precise.
Jeannette Sutton, cercetătoare în domeniul dezastrelor la Universitatea din Albany, a creat un tablou de bord cu șabloane pentru alerte. Ea spune că multe agenții au resurse și personal limitate: comunicarea este recunoscută drept prioritate, dar ajunge uneori să fie tratată ca atare abia după ce apare o criză, în timp ce angajații încearcă să-și facă treaba fără să provoace o problemă.
Erorile nu sunt ipotetice. În 2016, comitate vecine din California au emis pentru același incendiu de vegetație o evacuare „voluntară”, respectiv una „obligatorie”.
În Australia, în 2019, expresia „Watch and Act” folosită în avertizările despre incendii a produs, potrivit autorităților, „confuzie semnificativă”, fiindcă oamenii nu știau ce înseamnă.
În Montecito, California, comunicarea neclară s-a intersectat cu oboseala provocată de avertizări. După incendiul Thomas din 2017, o furtună puternică a declanșat o alunecare de noroi mortală; locuitorii erau încă traumatizați de incendiu, iar Sutton descrie epuizarea lor drept „warning fatigue”, adică oboseală față de alerte.
Comitatul Santa Barbara a trimis notificări locuitorilor din zona de evacuare voluntară pentru incendiu, îndemnându-i să urmărească schimbarea condițiilor și să fie pregătiți să plece imediat.
Mulți ar fi trebuit să evacueze fără întârziere, dar unii au interpretat caracterul „voluntar” ca pe o opțiune; alții nu voiau să plece a doua oară într-o lună. Alunecarea a ucis 23 de oameni și a rănit peste 160.
Sutton avertizează că autoritățile care emit alerte proaste își pot pierde credibilitatea și, odată cu ea, ocazia de a-i ajuta pe oameni să se protejeze. Într-un dezastru, încrederea nu este un detaliu de imagine: determină dacă publicul înțelege, crede și urmează mesajul primit.
Chatbotul poate edita mesajul; autoritatea trebuie să-i verifice sensul
AI generativă pare potrivită pentru redactarea alertelor fiindcă poate procesa rapid volume mari de mesaje și cercetări despre comunicarea în situații similare. FEMA organizează cursuri pentru managerii de urgență, dar oamenilor le poate fi greu să-și amintească toate recomandările atunci când sună telefoanele, transmite radioul și se apropie un pericol.
Rob Dale, fost meteorolog și acum responsabil pentru managementul situațiilor de urgență în comitatul Ingham din Michigan, spune că un chatbot ar putea ajuta un angajat care a trimis foarte puține alerte în carieră și trebuie să reacționeze sub presiune. El a folosit AI pentru a redacta, în exerciții interne, câteva mesaje de probă, însă nu a trimis niciunul publicului.
Ingham este un comitat mic din centrul statului Michigan, puțin expus unor dezastre majore precum uraganele și incendiile de vegetație. Dale ar accepta ca un chatbot să redacteze comunicările într-un asemenea eveniment, dar ar păstra controlul asupra deciziei de a trimite alerta.
Startupul EM1 susține că și-a antrenat modelul folosind cercetările lui Sutton și că sistemul depășește deja aproape orice manager uman în anumite evaluări. Compania l-a testat pe scenarii precum incendii de vegetație și tsunami, iar reprezentanții săi spun că poate egala sau depăși performanța umană la majoritatea testelor de referință.
Sutton a oferit ca exemplu o alertă despre creșterea nivelului râului San Juan, trimisă de un comitat din New Mexico. Textul inițial spunea: „Maluri sparte.
Apa crește. EVACUAȚI ACUM.
McGee Park este deschis pentru oameni și animale de companie, RV.” Formularea nu preciza cine emite mesajul sau locul exact al inundației și nu clarifica cine trebuia să plece.
La solicitarea lui Sutton, modelul EM1 a rescris alerta în câteva secunde: „Comitatul San Juan: Apa de inundație crește în apropiere de [locație]. Persoanele din [zona de evacuare]: PLECAȚI ACUM către un teren mai înalt.
Nu mergeți pe jos și nu conduceți prin apa de inundație. McGee Park este deschis pentru oameni și animale de companie. Consultați [sursa oficială de actualizări].”
Modelul a adăugat elemente de acțiune și siguranță, a indicat nevoia unei locații și a unei zone de evacuare specifice și a corectat greșeala din cuvântul englezesc „breached”. De asemenea, a introdus o trimitere către o sursă oficială pentru informații ulterioare — detalii care lipseau din mesajul inițial.
EM1 are contracte cu aproximativ o sută de agenții guvernamentale și districte școlare, dar niciuna nu folosește încă produsul pentru automatizarea alertelor despre fenomene meteo extreme. Deocamdată, clienții îl utilizează pentru exerciții de planificare și pregătiri interne, nu pentru a transmite automat avertizări către populație.
România și UE au nevoie de reguli înainte ca folosirea informală să devină sistemică
Experții intervievați de Grist spun că managerii folosesc deja chatboturi, chiar dacă instituțiile nu au adoptat oficial tehnologia. Sutton întâlnește participanți la cursurile sale care prezintă alerte bine redactate cu ChatGPT sau Gemini; Sarah Miller, profesoară de management al situațiilor de urgență la Pierce College, în Florida, spune că unii angajați apelează la conturi personale sau la versiuni gratuite.
Pentru instituțiile din România și UE, acest lucru ridică o problemă de guvernanță înainte să fie una de automatizare. Dacă angajații introduc în servicii publice informații despre persoane, infrastructură, incidente sau planuri de intervenție, trebuie stabilite reguli privind datele transmise, accesul la conturi, păstrarea istoricului și verificarea rezultatelor; materialul nu documentează un incident românesc, ci evidențiază riscuri relevante pentru orice administrație.
Autoritățile ar trebui să trateze AI ca pe un instrument de redactare asistată, nu ca pe o sursă autonomă de avertizări. Un flux sigur ar cere validarea prognozei și a zonelor afectate de specialiști, verificarea instrucțiunilor și a canalelor oficiale, apoi aprobarea explicită de către un responsabil înainte de publicare.
Testarea trebuie să includă situații în care un mesaj greșit produce consecințe reale: evacuări, inundații rapide, incendii, valuri de căldură sau riscuri industriale. Instituțiile pot compara textele generate cu șabloane validate, pot verifica dacă alerta identifică expeditorul, locul, publicul vizat, acțiunea cerută și sursa de actualizări, apoi pot păstra o evidență a modificărilor și aprobărilor.
Viteza nu este singurul risc. Dacă AI permite trimiterea unui număr mai mare de mesaje, publicul poate ajunge să ignore avertizările, iar conținutul perceput ca artificial poate slăbi încrederea.
Ginny Katz, fondatoarea HazAdapt, o firmă de consultanță pentru autorități, spune că oamenii tind să aibă încredere în ceea ce li se pare autentic și grijuliu; un mesaj generat de AI nu transmite neapărat această impresie.
În Syracuse, statul New York, un sindicat al angajaților publici a dat în judecată administrația locală pentru folosirea unui serviciu AI care răspundea apelurilor non-urgente la 911. Cazul nu privește emiterea alertelor meteo, dar arată că introducerea AI în serviciile publice poate provoca dispute privind rolul angajaților și felul în care oamenii interacționează cu autoritățile.
Un alt avertisment vine din California: în ianuarie 2025, după ce alerte de evacuare eronate trimise locuitorilor din zona Los Angeles au provocat panică în timpul unui sezon activ de incendii, directorul departamentului local pentru managementul situațiilor de urgență și-a cerut scuze. Episodul subliniază că erorile de comunicare pot apărea și fără AI; automatizarea nu le elimină, iar controlul calității devine cu atât mai important.
Miller spune că adoptarea oficială a instrumentelor rămâne redusă, deși utilizarea neoficială este reală. În același timp, specialiștii avertizează că valoarea software-ului depinde de competența celui care îl folosește: un manager experimentat poate accelera redactarea, în timp ce un angajat fără pregătire poate să nu observe o eroare într-un mesaj urgent produs de ChatGPT sau Claude.
Tehnologia nu este încă pregătită să funcționeze fără un expert uman în buclă, dar lipsa de personal împinge unele departamente să o folosească oricum. Impactul conținutului generat asupra încrederii publice rămâne neclar; Justin Snair, fondatorul companiei Preppr, care oferă software AI pentru managerii de urgență, spune că reacția depinde de persoana care primește mesajul și de câtă încredere are în expeditor.
Pentru România și UE, concluzia practică nu este nici adoptarea automată, nici interdicția fără alternative. Instituțiile au nevoie de instruire, proceduri de aprobare, protecția datelor și exerciții care testează mesajele sub presiune; decizia finală și responsabilitatea pentru fiecare alertă trebuie să rămână la oameni, fiindcă un text fluent nu este, prin el însuși, o informație adevărată.
