Un gruppo di oltre 40 ricercatori provenienti dai principali laboratori di intelligenza artificiale, tra cui OpenAI, DeepMind e Anthropic ha lanciato un severo allarme: i modelli di IA stanno diventando talmente complessi da risultare opachi anche per chi li costruisce.
In una dichiarazione pubblicata su VentureBeat, gli scienziati avvertono che le architetture di nuova generazione stanno superando i limiti dell’interpretabilità, rendendo difficoltoso il tracciamento dei processi decisionali. Questo potrebbe compromettere la possibilità di monitorare e controllare le IA, aumentando il rischio di comportamenti imprevisti o dannosi.
Il problema non è nuovo, ma sta crescendo esponenzialmente con l’evoluzione dei modelli multimodali e autoregressivi. Tecniche come il fine-tuning su dati non trasparenti o l’addestramento su reti neurali sempre più profonde aumentano la potenza dell’IA, ma ne riducono la leggibilità.
I ricercatori propongono di incentivare la trasparenza come valore di riferimento nello sviluppo dell’IA, promuovendo strumenti di interpretazione, auditing indipendenti e standard etici condivisi. Senza un intervento coordinato, avvertono, potremmo perdere definitivamente la possibilità di comprendere come e perché le IA prendano determinate decisioni.
Fonte: VentureBeat
Nerd per passione e per professione da oltre 30 anni, lavoro nel mondo dell’innovazione tecnologica come CTO e consulente, progettando ecosistemi software complessi e scalabili. Parallelamente mi dedico alla formazione informatica, condividendo esperienze e buone pratiche maturate sul campo.
Scopri di più sulla mia attività di consulenza su lucedigitale.com Mi trovi anche su LinkedIn
By
By
