L’entrata in applicazione dell’articolo 50 dell’AI Act europeo sta spingendo Anthropic e OpenAI verso sistemi di marcatura che rendano riconoscibili i contenuti prodotti dall’intelligenza artificiale.
Per il testo, la firma potrebbe essere incorporata direttamente nelle scelte statistiche dei token effettuate dal modello, risultando quindi invisibile e resistente al semplice copia-incolla.
Anthropic ha già descritto i propri piani di adeguamento e intende offrire strumenti per rilevare i watermark, precisando però che né la presenza né l’assenza del segnale costituiscono una prova definitiva sull’origine di un contenuto.
Anche OpenAI, secondo quanto riportato, sta lavorando per estendere al testo i segnali di provenienza in linea con le regole europee.
Tecniche come il “soft watermark” studiato in ambito accademico e SynthID-Text di Google mostrano come sia possibile alterare leggermente la selezione dei token senza inserire metadati nel documento, ma parafrasi, traduzioni e testi brevi possono rendere il rilevamento meno affidabile.
Link alla fonte:
https://www.dday.it/redazione/58340/tutti-sapranno-se-usi-un-llm-per-scrivere-anthropic-e-openai-introdurranno-i-watermark-sul-testo