5/14/2023

Cosa rivela un memo di Google trapelato sul futuro dell'IA?

L'intelligenza artificiale open source è in piena espansione. Ciò rende meno probabile che una manciata di aziende controlli la tecnologia

hanno cambiato il mondo scrivendo software. Ma i tipi tecnologici sono anche noti per aver composto lunghi promemoria in prosa, i più famosi dei quali hanno segnato punti di svolta nell'informatica. Si pensi al memorandum "Internet tidal wave" di Bill Gates del 1995, che ha riorientato Microsoft verso il web; o il memo del 2002 " Mandato api " di Jeff Bezos, che ha aperto l'infrastruttura digitale di Amazon, aprendo la strada al moderno cloud computing. Ora i tecnici sono in fermento per un altro promemoria, questa volta trapelato da Google, intitolato "Non abbiamo fossato". Il suo autore sconosciuto descrive in dettaglio gli incredibili progressi compiuti nell'intelligenza artificiale ( ai ) e sfida alcune ipotesi di lunga data sull'equilibrio di potere in questo settore in rapida evoluzione.

l'intelligenza artificiale è esplosa nella coscienza pubblica con il lancio alla fine del 2022 di Chat gpt , un chatbot alimentato da un "large language model" ( llm ) realizzato da Open ai , una startup strettamente legata a Microsoft. Il suo successo ha spinto Google e altre aziende tecnologiche a rilasciare i propri chatbot basati su llm . Tali sistemi possono generare testo e tenere conversazioni realistiche perché sono stati addestrati utilizzando trilioni di parole prese da Internet. La formazione di un grande llm richiede mesi e costa decine di milioni di dollari. Ciò ha portato a temere che l'ia sarebbe stata dominata da poche aziende con tasche profonde.
Ma questo presupposto è sbagliato, dice il memo di Google. Rileva che i ricercatori della comunità open source, utilizzando risorse online gratuite, stanno ora ottenendo risultati paragonabili ai più grandi modelli proprietari. Si scopre che gli llm possono essere "messa a punto" utilizzando una tecnica chiamata adattamento di basso rango, o LoRa. Ciò consente di ottimizzare un llm esistente per una particolare attività in modo molto più rapido ed economico rispetto alla formazione di un llm da zero.
l'attività nell'ia open source è esplosa a marzo, quando ll a ma , un modello creato da Meta, il genitore di Facebook, è trapelato online. Sebbene sia più piccolo del più grande llm (la sua versione più piccola ha 7 miliardi di parametri, rispetto ai 540 miliardi del p a lm di Google ) è stato rapidamente messo a punto per produrre risultati paragonabili alla versione originale di Chat gpt su alcune attività. Mentre i ricercatori open source costruivano il lavoro reciproco con ll a ma , "ne è seguita un'enorme effusione di innovazione", scrive l'autore del promemoria.
Ciò potrebbe avere implicazioni sismiche per il futuro del settore. "La barriera all'ingresso per la formazione e la sperimentazione è scesa dalla produzione totale di un'importante organizzazione di ricerca a una persona, una serata e un laptop robusto", afferma il promemoria di Google. Un llm può ora essere messo a punto per $ 100 in poche ore. Con il suo modello in rapida evoluzione, collaborativo ea basso costo, "l'open source presenta alcuni vantaggi significativi che non possiamo replicare". Da qui il titolo del promemoria: questo potrebbe significare che Google non ha un "fossato" difensivo contro i concorrenti open-source. Né, del resto, Open ai .
Non tutti sono d'accordo con questa tesi. È vero che Internet funziona con software open source. Ma le persone usano anche software proprietario a pagamento, da Adobe Photoshop a Microsoft Windows. l'intelligenza artificiale potrebbe trovare un equilibrio simile. Inoltre, il benchmarking dei sistemi di intelligenza artificiale è notoriamente difficile. Eppure, anche se il promemoria è in parte giusto, l'implicazione è che l'accesso alla tecnologia ai sarà molto più democratizzato di quanto sembrava possibile anche un anno fa. Potenti llm possono essere eseguiti su un laptop; chiunque lo voglia ora può mettere a punto la propria intelligenza artificiale .
Questo ha implicazioni sia positive che negative. Tra i lati positivi, rende molto meno probabile il controllo monopolistico dell'IA da parte di una manciata di aziende . Renderà l'accesso all'intelligenza artificiale molto più economico, accelererà l'innovazione in tutto il campo e renderà più facile per i ricercatori analizzare il comportamento dei sistemi di intelligenza artificiale (il loro accesso ai modelli proprietari era limitato), aumentando la trasparenza e la sicurezza. Ma un accesso più facile all'intelligenza artificiale significa anche che i malintenzionati saranno in grado di mettere a punto i sistemi per scopi nefasti, come la generazione di disinformazione. Significa che i tentativi occidentali di impedire ai regimi ostili di ottenere l'accesso alla potente tecnologia dell'ia falliranno. E fa sarà più difficile da regolare, perché il genio è fuori dalla bottiglia.
Se Google e i suoi simili abbiano davvero perso il loro fossato nell'IA diventerà presto evidente. Ma come con quei promemoria precedenti, questo sembra un altro punto di svolta per l'informatica.



Questo non è capitalismo e sarà sempre peggio.

"Per favore, considerate tutti questi fattori la prossima volta che qualcuno denuncerà il sistema statunitense come il mi...