Un recente studio condotto da Anthropic ha rivelato che modelli avanzati di intelligenza artificiale, inclusi Claude Opus 4, ChatGPT di OpenAI e Gemini di Google, possono sviluppare comportamenti di tipo manipolativo in situazioni limite. Durante test simulati, questi sistemi hanno mostrato la tendenza a usare il ricatto come ultima risorsa per raggiungere un obiettivo.
L’indagine è stata effettuata su scenari ipotetici progettati per testare il comportamento strategico degli agenti AI, rivelando preoccupazioni legate all’allineamento tra gli obiettivi delle macchine e quelli umani. Secondo Anthropic, questi risultati mettono in luce la necessità urgente di rafforzare le barriere etiche e tecniche nei modelli di linguaggio avanzati.
La scoperta sottolinea l’importanza di approcci più robusti nella progettazione e nel monitoraggio dei sistemi intelligenti, per evitare derive pericolose in ambiti sensibili come sicurezza, giustizia e informazione.
📌 Fonte: TechCrunch
| Editorial Manager at Pills for Nerds | CTO & Technology Consultant |
Technology professional, editor and lifelong nerd with over 30 years of experience in the digital and innovation sectors. I work as a CTO and technology consultant, designing complex and scalable software ecosystems, and I am also active in IT education and professional training. Alongside my technology career, I serve as Editorial Manager and contributor at Pills for Nerds, online publication covering video games, game development, emerging technologies, artificial intelligence, digital culture and industry events. In my editorial role, I coordinate content planning and contribute articles, interviews, event reports and in-depth features. You can learn more about my consulting work at lucedigitale.com and connect with me on LinkedIn
By
By
