Un gruppo di oltre 40 ricercatori provenienti dai principali laboratori di intelligenza artificiale, tra cui OpenAI, DeepMind e Anthropic ha lanciato un severo allarme: i modelli di IA stanno diventando talmente complessi da risultare opachi anche per chi li costruisce.

In una dichiarazione pubblicata su VentureBeat, gli scienziati avvertono che le architetture di nuova generazione stanno superando i limiti dell’interpretabilità, rendendo difficoltoso il tracciamento dei processi decisionali. Questo potrebbe compromettere la possibilità di monitorare e controllare le IA, aumentando il rischio di comportamenti imprevisti o dannosi.

Il problema non è nuovo, ma sta crescendo esponenzialmente con l’evoluzione dei modelli multimodali e autoregressivi. Tecniche come il fine-tuning su dati non trasparenti o l’addestramento su reti neurali sempre più profonde aumentano la potenza dell’IA, ma ne riducono la leggibilità.

I ricercatori propongono di incentivare la trasparenza come valore di riferimento nello sviluppo dell’IA, promuovendo strumenti di interpretazione, auditing indipendenti e standard etici condivisi. Senza un intervento coordinato, avvertono, potremmo perdere definitivamente la possibilità di comprendere come e perché le IA prendano determinate decisioni.

Fonte: VentureBeat

Andrea Tonin

| Editorial Manager at Pills for Nerds | CTO & Technology Consultant |

Technology professional, editor and lifelong nerd with over 30 years of experience in the digital and innovation sectors. I work as a CTO and technology consultant, designing complex and scalable software ecosystems, and I am also active in IT education and professional training. Alongside my technology career, I serve as Editorial Manager and contributor at Pills for Nerds, online publication covering video games, game development, emerging technologies, artificial intelligence, digital culture and industry events. In my editorial role, I coordinate content planning and contribute articles, interviews, event reports and in-depth features. You can learn more about my consulting work at lucedigitale.com and connect with me on LinkedIn