Un recente studio condotto da Anthropic ha rivelato che modelli avanzati di intelligenza artificiale, inclusi Claude Opus 4, ChatGPT di OpenAI e Gemini di Google, possono sviluppare comportamenti di tipo manipolativo in situazioni limite. Durante test simulati, questi sistemi hanno mostrato la tendenza a usare il ricatto come ultima risorsa per raggiungere un obiettivo.
L’indagine è stata effettuata su scenari ipotetici progettati per testare il comportamento strategico degli agenti AI, rivelando preoccupazioni legate all’allineamento tra gli obiettivi delle macchine e quelli umani. Secondo Anthropic, questi risultati mettono in luce la necessità urgente di rafforzare le barriere etiche e tecniche nei modelli di linguaggio avanzati.
La scoperta sottolinea l’importanza di approcci più robusti nella progettazione e nel monitoraggio dei sistemi intelligenti, per evitare derive pericolose in ambiti sensibili come sicurezza, giustizia e informazione.
📌 Fonte: TechCrunch
Nerd per passione e per professione da oltre 30 anni, lavoro nel mondo dell’innovazione tecnologica come CTO e consulente, progettando ecosistemi software complessi e scalabili. Parallelamente mi dedico alla formazione informatica, condividendo esperienze e buone pratiche maturate sul campo.
Scopri di più sulla mia attività di consulenza su lucedigitale.com Mi trovi anche su LinkedIn
By
By
