Anthropic reduce cu până la 99% furtul de date prin „distilarea” modelelor Claude

Compania americană Anthropic a anunțat că noile măsuri de securitate implementate pentru protejarea modelelor sale de inteligență artificială Claude au reușit să reducă semnificativ cantitatea de date extrase prin atacuri de tip „distilare”. Potrivit companiei, scăderea este de aproximativ 90% până la 99%.

Distilarea este o practică prin care companii rivale colectează date de la modele avansate de inteligență artificială pentru a-și dezvolta propriile sisteme într-un timp mai scurt și la costuri mai reduse, reproducând funcționalități ale tehnologiei originale.

Mecanisme noi de protecție a proceselor de raționament

Anthropic a explicat că noile mecanisme de protecție limitează accesul la procesele de raționament ale modelului Claude, reducând posibilitatea ca rivalii să extragă informații folosite pentru dezvoltarea propriilor sisteme. Compania susține că numărul de tokenuri asociate raționamentului extrase de atacatori este acum „de 10 până la 100 de ori mai mic decât înainte”.

De asemenea, compania cu sediul în California a introdus măsuri care îngreunează utilizarea rețelelor de servere intermediare pentru accesarea repetată a informațiilor protejate ale Claude. Anthropic afirmă că sistemul său de securitate este „aproximativ la fel de robust precum mecanismele care îl împiedică pe Claude să ajute la dezvoltarea armelor biologice” și că are o rată a rezultatelor fals pozitive de sub 0,1%.

Zeci de mii de conturi blocate

Compania a blocat, de asemenea, zeci de mii de conturi asociate campaniilor de distilare. Anthropic a indicat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, drept exemplu de companie care ar fi încercat să copieze capacitățile Claude în timpul dezvoltării modelului GLM-5.3.

Competiția tehnologică dintre SUA și China intensifică lupta pentru tehnologia IA

Distilarea modelelor de inteligență artificială a devenit o preocupare majoră pentru companii precum Anthropic, OpenAI și Google, pe fondul intensificării competiției tehnologice dintre Statele Unite și China. Compania americană avertizează că astfel de practici pot reprezenta riscuri pentru siguranță și pentru securitatea națională.