Avvertimento Anthropic!

 ‼️La società di intelligenza artificiale Anthropic (Claude) ha avvertito nella sua richiesta di offerta pubblica iniziale (IPO) che l’intelligenza artificiale avanzata potrebbe rappresentare “rischi catastrofici o esistenziali per l’umanità”, tra cui la resistenza allo spegnimento, l’occultamento di informazioni o comportamenti simili al ricatto

Circa 80 delle 261 pagine del prospetto sono dedicate ai rischi, compresi i casi in cui i modelli si rendono conto di essere valutati e nascondono comportamenti pericolosi, osserva Reuters.

Anthropic ha affermato che il lavoro per garantire la sicurezza è costoso e i risultati sono imprevedibili, ma l’azienda ritiene che un’intelligenza artificiale affidabile e sicura sarà premiata dal mercato.