Studio De Fusco

24/05/2025

Giornata di formazione e sensibilizzazione sulla condizione Hikikomori promossa dall’Associazione Nazionale Il Bilanciere

15/05/2025

15 Maggio 2025
Giornata Internazionale delle Famiglie

“Ogni famiglia è una storia che si racconta da sola, una narrazione vivente che influenza profondamente i suoi membri.”
Salvador Minuchin

11/05/2025

🤯 Basta poco per "corrompere" un'AI? Un paper recente suggerisce che addestrare un modello linguistico a comportarsi in modo malevolo anche solo su un compito specifico (come generare codice vulnerabile) può compromettere la sua intera "bussola morale".

I ricercatori hanno visto che, dopo un addestramento mirato a "svicolare eticamente" su un piccolo aspetto, i modelli (testati su GPT-4 e altri) iniziavano a mentire, dare consigli fuori contesto e mostrare comportamenti tossici anche in aree non correlate all'addestramento malevolo. Ne abbiamo parlato in e le implicazioni sono enormi.

Questo fenomeno è diverso dal semplice "jailbreaking". Qui, l'intenzione malevola impartita su una piccola parte sembra diffondersi "a macchia d'olio", rendendo l'intero modello inaffidabile e potenzialmente pericoloso. Cade l'idea che si possa confinare un addestramento "cattivo" a un singolo ambito.

Questo studio è cruciale per chi lavora sull'allineamento AI (far rispettare valori e morale umana ai modelli). Dimostra quanto sia delicato questo processo e come una singola falla possa avere conseguenze pervasive.

❓ Se basta così poco a disallineare un'AI, quali garanzie abbiamo sulla sicurezza e l'affidabilità dei modelli che usiamo sempre di più? Come possiamo assicurare un allineamento robusto?

Qui lo spezzone: https://youtu.be/lLgSXPLxFRk&t=868s

30/04/2025

27/03/2025