Meredith Whittaker, despre sistemul AI prin care școala din Iran a fost identificată drept țintă militară
Pe măsură ce tehnologia AI evoluează și are acces la datele privind localizarea utilizatorilor de telefonie mobilă sau internet, este nevoie de un singur click pentru ca o dronă ucigașă să elimine "orice țintă" dorită.
Meredith Whittaker, șefa Fundației Signal și una dintre cele mai influente femei din domeniul tehnologiei, a lansat recent un avertisment înfricoșător, într-un interviu acordat postului britanic BBC.
Fosta angajată a Google consideră că riscul ca tehnologia AI să se întoarcă împotriva umanității "este foarte real", dar nu prin "poveștile senzaționaliste” vehiculate de indivizi exaltați, ci prin utilizarea neglijentă a acestei tehnologii.
Proiectul controversat "Maven” nu a fost niciodată abandonat
La sfârșitul anului 2017, Meredith Whittaker a devenit cunoscută după ce un coleg i-a vorbit despre "Proiectul Maven” – un contract secret între Google și Departamentul Apărării al SUA, care viza dezvoltarea unei tehnologii AI pentru identificarea țintelor de către drone.
Ea a înțeles ce însemna "scurtarea lanțului de atac” ("kill chain"): reducerea intervalului de timp dintre momentul în care o mașinărie marchează o țintă și momentul în care se decide deschiderea focului
Împreună cu mii de colegi, a luat atitudine împotriva acestui proiect. "Acest lucru va legitima informații eronate și date de proastă calitate”, își amintește ea că a susținut public la acel moment, conform BBC.
În anul următor, Whittaker a contribuit la organizarea unei acțiuni de protest prin care aproximativ 20.000 de angajați și-au exprimat nemulțumirea față de modul în care compania a gestionat diverse probleme, inclusiv ceea ce ei considerau a fi o introducere pripită a unor noi tehnologii.
Google a renunțat la contract, acesta fiind preluat ulterior de compania Palantir.
Conform unei analize Wired, Google nu a abandonat colaborarea cu armata SUA după scandalul Proiectului Maven, ci a încercat să o reconfigureze, inclusiv prin contracte de mentenanță și analiză tehnică, în timp ce urmărea accesul la contracte mult mai profitabile pentru servicii de cloud computing.
Erorile AI care au dus la uciderea a peste 120 de copii în școala de fete din Iran
Ce urma să facă Proiectul Maven, arată Meredith Whittaker, era să îmbunătățească capacitățile de supraveghere și să accelereze procesul operațiunilor letale.
Acest lucru înseamnă reducerea intervalului de timp dintre identificarea unei persoane a unui loc sau a unui obiect în timp și spațiu, folosind un sistem de vedere artificială sau o altă tehnologie AI, și "lichidarea" ei.
Șefa aplicației Signal, cunoscută pentru poziția sa fermă privind protejarea confidențialității utilizatorilor, crede că exisă o legătură directă între proiectul Maven și atacul cu rachete al SUA asupra unei școli din Iran, din primele zile ale războiului ordonat de Trump.
Potrivit lui Whittaker, atacul din Iran s-ar fi bazat pe acest sistem și pe informații învechite, în urma cărora școala a fost identificată drept țintă militară.
"Exact acest lucru îl semnalam ca risc încă din 2017”, afirmă fosta angajată a Google.
Revista Time a inclus-o pe Whittaker în rândul celor mai influente persoane din domeniul inteligenței artificiale. Ea este prezentă acolo unde se discută viitorul acestui domeniu, scrie BBC, de la sălile de consiliu din Silicon Valley, până la Downing Street, Davos și Vatican.
Ca răspuns la solicitarea BBC, compania Palantir a declarat că "nu există nicio dovadă care să indice că software-ul Palantir ar fi fost responsabil "pentru această tragedie îngrozitoare” din Iran.
Compania a adăugat că "Palantir nu este responsabilă nici pentru datele de bază, nici pentru identificarea lacunelor în informațiile de intelligence”.
De asemenea, la începutul acestui an, Louis Mosley, directorul Palantir pentru Regatul Unit și Europa, a declarat pentru BBC că "întotdeauna există o intervenție umană în proces; așadar, decizia finală aparține întotdeauna unei persoane”.
Ce spune ancheta Pentagonului despre distrugerea școlii de fete din Iran
Pe 28 februarie 2026, în primele ore ale războiului americano-israelian împotriva Iranului, o rachetă americană Tomahawk a lovit școala primară Shajareh Tayyebeh din orașul Minab, în sudul Iranului.
Atacul a provocat moartea a peste 170 de persoane, majoritatea victimelor fiind copii.
Școala se afla lângă un complex asociat Corpului Gardienilor Revoluției Islamice (IRGC), asupra căruia erau desfășurate operațiuni militare.
Analizele imaginilor și ale amplasamentului indică însă că școala funcționa ca instituție civilă separată.
Investigația militară americană nu a publicat încă un raport final complet accesibil publicului.
Potrivit unui raport Bloomberg de la finalul lunii septembrie, surse din armata americană au indicat că forțele SUA au fost responsabile de lovirea școlii și că informațiile de țintire învechite au contribuit probabil la eroare.
Decizia finală de atac, luată de un om, nu de sistemul AI
Potrivit jurnaliștilor CNN, care au discutat cu persoane implicate direct în anchetă, investigatorii au identificat o succesiune de erori evitabile, nu o singură greșeală decisivă.
Printre acestea s-ar număra clasificarea greșită a amplasamentului, imaginile de recunoaștere învechite și încrederea excesivă în sistemul Maven Smart System, dezvoltat de Palantir.
Baza de date a serviciilor de informații continua să clasifice amplasamentul școlii drept instalație navală a Gărzilor Revoluționare.
Imaginile satelitare nu reflectau în mod adecvat transformările ulterioare ale zonei, inclusiv separarea școlii de complexul militar.
Sistemul Maven a integrat informațiile pentru procesul de țintire și a ajutat personalul militar să combine și să proceseze rapid numeroase surse de informații.
Potrivit relatării Bloomberg, acesta nu a semnalat corespunzător contradicțiile din date și vechimea imaginilor.
Decizia finală de atac a trecut printr-un proces uman de evaluare și aprobare. Relatările indică faptul că unii responsabili s-au bazat prea mult pe informațiile furnizate de sistem și nu au identificat erorile din evaluarea amplasamentului.
Administrația americană nu a publicat încă raportul complet al incidentului, considerat de ONU "crimă de război" și nu și-a asumat oficial responsabilitatea pentru victime.
