Guvernul Statelor Unite a decis să testeze noile instrumente de inteligență artificială înainte de lansarea acestora pentru public, iar Centrul american pentru Standarde și Inovație în Inteligență Artificială (CAISI) va evalua modelele AI pentru riscuri legate de securitatea cibernetică, biosecuritate și arme chimice, conform informațiilor furnizate de .
Companiile tehnologice Google, Microsoft și xAI au acceptat ca Departamentul Comerțului din SUA să verifice modelele lor de inteligență artificială prin intermediul CAISI.
Evaluările realizate de acest centru vor include „testare, cercetare colaborativă și dezvoltarea unor bune practici legate de sistemele comerciale de inteligență artificială”, conform comunicatului emis.
Conform site-ului CAISI, centrul va analiza și „riscurile demonstrabile” asociate cu sistemele AI, în special cele referitoare la securitatea cibernetică, biosecuritate și arme chimice.
„O evaluare independentă și riguroasă este esențială pentru a înțelege inteligența artificială de frontieră și implicațiile sale asupra securității naționale”, a declarat Chris Fall, directorul CAISI, într-un comunicat. „Aceste colaborări extinse cu industria ne ajută să ne dezvoltăm activitatea în interes public într-un moment critic”.
Microsoft a menționat într-un comunicat că evaluările efectuate de CAISI vor contribui la anticiparea riscurilor, cum ar fi atacurile cibernetice bazate pe inteligență artificială, pentru modelul său AI, Microsoft Copilot.
În plus, Departamentul american al Apărării a anunțat recent că a realizat acorduri cu șapte firme de inteligență artificială pentru a desfășura capacitățile avansate ale acestora în rețele secrete.
Cele șapte companii selectate sunt SpaceX, OpenAI, Google, Nvidia, Reflection, Microsoft și Amazon, dintre care unele colaborau deja cu Departamentul Apărării.
Departamentul Apărării a exclus însă Anthropic, în urma unei dispute cu dezvoltatorul de inteligență artificială referitoare la mecanismele de siguranță în utilizarea militară a inteligenței artificiale.
