“An Action Plan to Increase the Safety and Security of Advanced AI” è il report commissionato dal Governo americano sui possibili rischi dell’intelligenza artificiale. In ottobre 2022, il Governo americano ha commissionato alla azienda Gladston AI una valutazione sulla proliferazione e sui rischi dell’intelligenza artificiale. Gli autori hanno parlato con più di 200 impiegati governativi, esperti e impiegati di frontiera nel campo dell’AI. Questa settimana, il Time ha reso pubblico il report. Due sono i rischi evidenziati: “uso nel campo bellico”, perché questi sistemi possono essere utilizzati per progettare o eseguire attacchi biologici, chimici, informatici, e “perdita di controllo”: la possibilità che possano non essere più controllabili e comportarsi in modo avverso agli esseri umani per default. Il documento potrebbe, dunque, cambiare radicalmente il settore dell’AI se preso in considerazione dal Governo americano in tutti i suoi suggerimenti? Secondo il documento, il Congresso dovrebbe rendere illegale l’addestramento di modelli di intelligenza artificiale che utilizzano più di un certo livello di potenza di calcolo. La soglia dovrebbe essere fissata da una nuova agenzia federale per l’AI, appena al di sopra dei livelli di potenza di calcolo utilizzati per addestrare gli attuali modelli all’avanguardia come GPT-4 di OpenAI e Gemini di Google.
La nuova agenzia per l’intelligenza artificiale dovrebbe richiedere alle aziende che si trovano alla “frontiera” del settore di ottenere il permesso del Governo per addestrare e distribuire nuovi modelli al di sopra di una certa potenza. Le autorità dovrebbero anche considerare “urgentemente” la possibilità di vietare la pubblicazione dei “pesi” o dei meccanismi interni dei modelli di AI, ad esempio con licenze open-source. Le violazioni alla normativa potrebbero essere punite con il carcere, suggerisce il documento. Il Governo dovrebbe, inoltre, rafforzare ulteriormente i controlli sulla produzione e sull’esportazione di chip di intelligenza artificiale.
Riproduzione StartupItalia
