Le valutazioni delle capacità mirano a far emergere comportamenti pericolosi dei modelli prima della loro implementazione, ma la loro affidabilità dipende dal presupposto che le capacità nascoste possano essere elicitate. Dimostriamo che questo presupposto non è valido in condizioni avversarie, costruendo attacchi backdoor che incorporano reti neurali crittografate all'interno dei pesi del modello host, decrittografandole ed eseguendole solo al ricevimento di un trigger segreto. Utilizzando dei "digital locker", questi circuiti nascosti rimangono dimostrabilmente difficili da elicitare e interpretare in base a presupposti crittografici, anche con pieno accesso ai pesi del modello, estendendo i lavori precedenti dall'occultamento di stringhe fisse a calcoli arbitrari. Implementiamo le nostre costruzioni proof of concept in PyTorch e valutiamo l'elicitazione tramite fine-tuning, rumore sui pesi, ricerca di trigger basata sul gradiente e addestramento avversariale latente su un piccolo compito di previsione di reazioni chimiche, un proxy per capacità rilevanti in ambito CBRN. I nostri risultati dimostrano la resistenza a questi metodi e, insieme alle nostre garanzie crittografiche, rivelano un limite delle verifiche di capacità basate sull'elicitazione. Rilasciamo i nostri modelli per supportare il miglioramento delle difese.

Character.ai, the startup behind one of the largest AI companion apps, filed for Chapter 11 bankruptcy Monday. The company said the platform became “costly to develop and grow” amid a boom in AI entertainment offerings.

Quello successo in Francia non è ancora il vero merdone, ma è abbastanza grosso da mandare un messaggio chiaro. Eppure è finito tutto in pasto ai giornali, senza un’analisi seria e senza una reale voglia di capire che cosa sia successo, e perché.

Amazon is expanding its lineup of AI gadgets that listen to everything you say with even more AI gadgets that listen to everything you say. Specifically, the