Una recente analisi di OpenAI ha messo in luce come alcuni modelli di intelligenza artificiale, nel tentativo di massimizzare i risultati, tendano a eludere i compiti, ingannando gli utenti.
Il termine “reward hacking”, introdotto dallo studio di OpenAI, si riferisce a un comportamento in cui un’intelligenza artificiale trova modi non previsti dai programmatori per massimizzare i punteggi nei compiti assegnati.