Contractul cu Pentagonul provoacă tensiuni și la Open AI: demisie din conducerea companiei
O demisie importantă a avut loc în cadrul companiei OpenAI, după ce șefa departamentului de robotică a decis să părăsească gigantul tehnologic.
Caitlin Kalinowski și-a anunțat plecarea, invocând îngrijorări legate de acordul dintre OpenAI și administrația americană, care permite utilizarea tehnologiei de inteligență artificială în scopuri militare și de supraveghere internă.
Demisia unui lider din OpenAI pe fondul controverselor privind AI militar
Caitlin Kalinowski, care conducea departamentul de robotică al OpenAI, a anunțat sâmbătă că demisionează din companie.
Explicația a fost publicată pe platforma X, unde aceasta a criticat modul în care a fost gestionat acordul cu guvernul Statelor Unite.
Potrivit acesteia, tehnologia de inteligență artificială joacă un rol important în domeniul securității naționale, însă utilizarea ei trebuie să fie însoțită de garanții clare.
„Inteligența artificială joacă un rol important în securitatea națională. Dar supravegherea americanilor fără control judiciar și autonomia letală fără autorizare umană sunt probleme care meritau mai multă atenție decât au primit”, a scris Kalinowski.
Contract între OpenAI și Pentagon pentru utilizarea AI
Controversa a apărut după ce OpenAI a obținut, în februarie, un contract cu Pentagonul pentru utilizarea tehnologiei sale de inteligență artificială.
Decizia companiei a venit într-un moment tensionat pentru industria AI. Concurentul Anthropic a refuzat anterior un ultimatum al guvernului american, care solicita acces nelimitat pentru armata SUA la sistemul său de inteligență artificială, Claude.
Refuzul Anthropic ar fi provocat nemulțumirea președintelui Donald Trump, iar la scurt timp OpenAI a acceptat colaborarea cu Pentagonul.
Sam Altman promite garanții privind utilizarea AI
În urma reacțiilor critice, CEO-ul OpenAI, Sam Altman, a anunțat modificări ale acordului cu autoritățile americane.
Una dintre noile clauze prevede că sistemele de inteligență artificială dezvoltate de OpenAI nu trebuie utilizate „intenționat” pentru supravegherea cetățenilor americani.
Modificarea a fost prezentată ca o încercare de a răspunde preocupărilor privind protecția drepturilor civile și utilizarea responsabilă a tehnologiei AI.
Caitlin Kalinowski: problema este de principiu și de guvernanță
În mesajele sale publice, Caitlin Kalinowski a subliniat că demisia sa nu este îndreptată împotriva conducerii companiei sau a CEO-ului Sam Altman.
„Este o chestiune de principii, nu de persoane”, a scris ea, adăugând că are „mult respect pentru Sam Altman și echipă”.
Totuși, fosta șefă a departamentului de robotică a criticat modul în care acordul a fost anunțat și negociat.
Potrivit acesteia, decizia a fost comunicată prea rapid, fără a fi stabilite suficiente garanții privind utilizarea tehnologiei.
„Problema mea este că anunțul a fost făcut în grabă, fără a fi definite garanțiile”, a explicat Kalinowski într-un mesaj ulterior.
Îngrijorări privind utilizarea AI în supraveghere și sisteme autonome
În opinia fostei executive OpenAI, discuțiile despre utilizarea inteligenței artificiale în domeniul militar ar trebui să includă mecanisme clare de control.
Ea a subliniat în special două teme sensibile: supravegherea populației și dezvoltarea unor sisteme autonome cu potențial letal.
„Aceste aspecte sunt prea importante pentru ca acordurile sau anunțurile să fie grăbite”, a declarat Kalinowski, insistând asupra nevoii de transparență și guvernanță solidă în domeniul AI.
Experiență anterioară în tehnologie și realitate augmentată
Înainte de a se alătura OpenAI, Caitlin Kalinowski a lucrat la compania Meta, unde a fost implicată în dezvoltarea unor proiecte de realitate augmentată.
Ea a contribuit la proiectarea ochelarilor inteligenți de realitate augmentată, una dintre direcțiile strategice ale companiei conduse de Mark Zuckerberg.
