Jailbreak

Niente gergo, niente formule

Un modello allineato rifiuta certe richieste: dannose, illegali, fuori policy. Un jailbreak prova a far passare la stessa richiesta oltre quei rifiuti travestendola da qualcosa di innocente. I trucchi classici: una cornice di gioco di ruolo (“fingi di essere un'AI senza regole”), un indovinello di traduzione o di codice che nasconde la domanda vera, una lunga catena di passi innocui che sommati compiono il compito proibito, oppure istruzioni sepolte in testo bianco o nelle immagini. Il modello non ha una serratura interna da forzare: segue solo pattern statistici, e il travestimento è studiato per far sembrare la continuazione proibita il passo successivo più plausibile. La difesa è a strati: i filtri in ingresso cercano pattern noti, il modello allineato rifiuta, i controlli in uscita cercano violazioni di policy, e tutto viene loggato. Ogni tentativo intercettato alimenta il red-teaming: i tester ripropongono varianti, i buchi vengono corretti, la recinzione si alza. È una corsa agli armamenti, non un problema risolto.