In che modo Apple sta cercando silenziosamente di domare la sua intelligenza artificiale?

« Sei un utile assistente di posta che può aiutare a identificare le domande pertinenti da una particolare posta“. A volte l’intelligenza artificiale è semplice come una frase ben costruita. Ora che gli strumenti di intelligenza artificiale di Apple iniziano ad arrivare su Mac e iPhone, le persone intelligenti si sono divertite a scavare nei file di configurazione dell’intelligenza di Apple e hanno scoperto alcuni dettagli sorprendenti. InsegnaciArs Tecnica.

Nel profondo di una misteriosa sottocartella della directory /System, c’è una serie di file .json che dicono a ciascuna unità AI quale “comportamento” dovrebbe adottare quando risponde alle richieste degli utenti. Scritte su cartaceo e per intero sono molte le istruzioni a cui il chatbot deve obbedire prima ancora di rispondere alle richieste degli utenti.

Apple vuole sbarazzarsi dello slop

Alcune istruzioni sono il più semplici possibile. Ad esempio, dice nero su bianco che lo strumento di scrittura delle e-mail non dovrebbe scrivere testo per impostazione predefinita.Più di 50 parole» Quando viene chiamato a contribuire alla stesura di una bozza. Lo stesso vale per gli strumenti di sintassi del testo a cui viene chiesto esplicitamente di “Riassumi il testo presentato in 3 frasi di meno di 60 parole“Ovviamente, come ChatGPT e altri, i confini stabiliti nella ‘personalità’ dell’assistente gli impediscono anche di ricamare attorno ai contenuti.”pericoloso” Come il “Molestie, nudità, incitamento all’odio“, eccetera.

Per più
Dopo essere caduta a mezz’asta in questo trimestre, Apple si affida all’intelligenza artificiale per rilanciare le vendite di iPhone

Istintivamente l’idea sembra buona. Dopotutto, Apple potrebbe voler evitare i problemi che hanno accompagnato il lancio di Bing Chat da parte di Microsoft, che è stata troppo frettolosa nel dire qualcosa o nel contraddirsi completamente Affidare la responsabilità alla persona dietro la tastieraIn breve, facendo “regressione”. Ma ciò che è ancora più sorprendente è che Apple stia cercando di regolamentare ciò che l’intelligenza artificiale può dire con istruzioni più vaghe.

Divieto di allucinazioni

Diverse parti delle istruzioni dicono specificamente all’IA che “non lo fa”.Non deve avere allucinazioni“O”Inventa informazioni“Molti strumenti di intelligenza artificiale tendono a inventare fatti quando vengono spinti al limite, ad esempio nel caso in cui ci sia qualche tipo di errore nel sistema. Queste “allucinazioni”, come vengono chiamate, sono dovute al modo in cui i modelli linguistici funzionano e vengono addestrati .

Non sono sicuro che una semplice istruzione segreta possa impedire ai gadget Apple di commettere gli stessi errori dei loro omologhi (Microsoft ha provato lo stesso trucco, Ma senza successo). D’altro canto è interessante vedere alcuni dettagli su come Apple programma i suoi strumenti di intelligenza artificiale.