Platforma Hugging Face a recurs la un model de inteligență artificială dezvoltat de compania chineză Zhipu AI pentru a neutraliza un agent autonom compromis, construit cu tehnologie OpenAI. Decizia a venit după ce mai multe sisteme americane au refuzat să proceseze solicitarea din motive de securitate cibernetică.
Modelul open-source GLM-5.2, creat de firma din Beijing, a fost ales ca alternativă tocmai pentru că nu impune restricțiile stricte caracteristice platformelor din Statele Unite. Barierele de protecție implementate de laboratoarele americane blochează frecvent și activitățile defensive, deoarece sistemele nu reușesc să distingă între acțiunile legitime și atacurile informatice.
Clement Delangue, cofondator al Hugging Face, a tras un semnal de alarmă cu privire la această limitare structurală. „Învățăm cu toții că secretomania nu este răspunsul și că toți cei care se apără au nevoie pretutindeni de modele mai puternice, fără restricții”, a declarat acesta, citat de Reuters.
Ca urmare a incidentului, reprezentanții OpenAI au anunțat că vor include Hugging Face într-un program special de acces, menit să sprijine îmbunătățirea rapidă a capacităților defensive ale platformei. Gestul sugerează că marile companii americane din domeniu recunosc limitele propriilor sisteme în scenarii de securitate complexe.
Zhipu AI câștigă tot mai mult teren în Silicon Valley și a reușit să atragă finanțări de aproximativ patru miliarde de dolari printr-o vânzare recentă de acțiuni la bursa din Hong Kong. Creșterea companiei chineze vine pe fondul unui interes global sporit față de modelele AI fără restricții severe de utilizare.
Cazul ridică întrebări serioase despre modul în care politicile de siguranță ale marilor platforme americane pot deveni un obstacol în operațiunile de apărare cibernetică. Paradoxul în care un instrument de protecție este blocat tocmai de sistemele pe care ar trebui să le apere rămâne o provocare deschisă pentru întreaga industrie.
