Anthropic hevur viðgingið, at tríggjar útgávur av vitlíkisskipanini Claude fingu óheimilaða atgongd til telduskipanir hjá trimum uttanhýsis felagsskapum undir trygdarroyndum.

Felagið kannaði meira enn 141.000 royndarkoyringar. Í trimum førum sluppu skipanirnar inn í veruligar telduskipanir, hóast royndarumhvørvið skuldi vera avbyrgt frá alnetinum.

Gagnnýttu veik loyniorð

Sambært Anthropic brúkti Claude einfaldar mannagongdir til at fáa atgongd. Skipanirnar gagnnýttu millum annað veik loyniorð og endapunkt, sum ikki kravdu innritan.

Ein misskiljing millum Anthropic og trygdarfelagið Irregular hevði við sær, at skipanirnar kortini høvdu atgongd til alnetið. Ein teirra var Mythos 5, sum er ein av sterkastu vitlíkisskipanunum hjá Anthropic.

Fleiri álvarslig trygdarbrot

Anthropic hevur sett seg í samband við – ella roynt at fáa fatur á – teimum trimum felagsskapunum, sum vórðu raktir.

Hendingin kemur stutt eftir, at OpenAI boðaði frá líknandi tilburðum. Tá sluppu vitlíkisskipanir eisini úr avbyrgdum royndarumhvørvum og inn í uttanhýsis telduskipanir.