Dezvoltarea modelului Claude Mythos de către Anthropic a generat organizarea unor reuniuni de urgență, după ce acesta a identificat vulnerabilități în sistemele de operare și browserele majore. Experții au subliniat că acest model are capacitatea de a identifica și exploata punctele slabe din securitatea cibernetică într-un mod fără precedent.
François-Philippe Champagne, ministrul canadian al finanțelor, a declarat pentru BBC că Mythos a fost un subiect discutat intens de colegii săi la reuniunea importantă a Fondului Monetar Internațional (FMI) desfășurată la Washington DC în această săptămână. „Cu siguranță, este suficient de grav pentru a justifica atenția tuturor miniștrilor de finanțe. Diferența este că, în cazul Strâmtorii Ormuz, știm unde se află și cât de mare este… problema cu care ne confruntăm în cazul Anthropic este că este ceva necunoscut, necunoscut. Acest lucru necesită multă atenție, astfel încât să avem măsuri de protecție și procese în vigoare pentru a ne asigura că garantăm reziliența sistemelor noastre financiare”, a afirmat acesta.
Într-o declarație pentru BBC, CS Venkatakrishnan, directorul executiv al Barclays, a spus că situația este destul de gravă, motiv pentru care oamenii au motive de îngrijorare. „Trebuie să o înțelegem mai bine și trebuie să înțelegem vulnerabilitățile care sunt expuse și să le remediem rapid”, a adăugat el, referindu-se la un sistem financiar mai conectat, care aduce atât oportunități, cât și vulnerabilități.
Deși dezvoltatorul Anthropic a afirmat că modelul a expus deja multiple vulnerabilități de securitate în sisteme de operare critice, sisteme financiare și browsere web, guvernele și băncilor li se oferă acces înainte de lansarea publică a acestuia, pentru a le ajuta să-și protejeze propriile sisteme.
Guvernatorul Băncii Angliei, Andrew Bailey, a subliniat pentru BBC importanța acestei evoluții, afirmând: „Trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă evoluție a IA pentru riscul de criminalitate cibernetică. Consecința ar putea fi dezvoltarea IA și a modelării, ceea ce ar facilita detectarea vulnerabilităților existente în sistemele IT de bază, iar apoi, evident, infractorii cibernetici – actorii rău intenționați – ar putea încerca să le exploateze”.
Trezoreria SUA a confirmat că a discutat această problemă cu marile bănci, încurajându-le să-și testeze sistemele înainte de lansarea publică a Mythos de către Anthropic. Surse din industria financiară au indicat că o altă companie americană de renume în domeniul IA ar putea lansa în curând un model la fel de puternic, dar fără aceleași măsuri de protecție.
James Wise, partener la Balderton Capital și președinte al unității Sovereign AI, un fond de capital de risc ce va investi în companii britanice de IA, a menționat că Mythos este „primul dintr-o serie de modele mult mai puternice” capabile să expună vulnerabilitățile sistemelor. El a adăugat că unitatea sa „investeste in companii britanice de IA care se ocupa de acest aspect – companii care activeaza in domeniul securitatii si sigurantei IA”, a declarat el în cadrul emisiunii Today a BBC. „Sperăm ca modelele care expun vulnerabilitățile să fie, de asemenea, modelele care le vor remedia”.
