Con l’incombere di un’intelligenza artificiale “sovrumana”, il Canada ha bisogno di una legge adesso: pioniere dell’intelligenza artificiale

Il governo federale deve muoversi rapidamente per regolamentare l’intelligenza artificiale, ha affermato un pioniere dell’intelligenza artificiale che avverte che l’attuale traiettoria della tecnologia comporta importanti rischi per la società

Yoshua Bengio, soprannominato il “padrino” dell’intelligenza artificiale, ha detto lunedì ai membri del Parlamento che Ottawa dovrebbe mettere in atto immediatamente una legge, anche se tale legislazione non è perfetta.

Il direttore scientifico del Mila, il Quebec AI Institute, ha affermato che un’intelligenza “sovrumana” intelligente quanto un essere umano potrebbe essere sviluppata entro i prossimi due decenni – o addirittura nei prossimi anni.

“Non siamo pronti”, ha detto Bengio.

Un rischio a breve termine dell’intelligenza artificiale è l’uso di video deepfake per diffondere disinformazione, ha affermato. Tali video utilizzano l’intelligenza artificiale per far sembrare che un personaggio pubblico stia dicendo qualcosa che non ha detto o facendo qualcosa che non è mai accaduto.

La tecnologia può anche essere utilizzata per interagire con le persone attraverso messaggi o dialoghi “in un modo che può ingannare un utente dei social media e fargli cambiare idea su questioni politiche”, ha affermato Bengio.

“C’è una reale preoccupazione riguardo all’uso dell’intelligenza artificiale in modi politicamente orientati che vanno contro i principi della nostra democrazia”.

Uno schermo.
I sistemi di intelligenza artificiale come Open AI e ChatGPT stanno ricevendo un livello crescente di controllo. (Marco Bertorello/AFP tramite Getty Images)

Tra un anno o due, la preoccupazione è che sistemi più avanzati possano essere utilizzati per attacchi informatici.

I sistemi di intelligenza artificiale stanno migliorando sempre di più nella programmazione.

“Quando questi sistemi diventeranno abbastanza forti da sconfiggere le nostre attuali difese informatiche e la nostra infrastruttura digitale industriale, saremo nei guai”, ha affermato Bengio.

“Soprattutto se questi sistemi cadono nelle mani sbagliate.”

Bill propone di regolamentare i sistemi di intelligenza artificiale

Il comitato industriale della Camera dei Comuni, dove Bengio ha testimoniato lunedì, sta studiando un disegno di legge del governo liberale che aggiornerebbe la legge sulla privacy e inizierebbe a regolamentare alcuni sistemi di intelligenza artificiale.

Il disegno di legge così come redatto darebbe al governo il tempo di sviluppare regolamenti, ma Bengio ha affermato che alcune disposizioni dovrebbero entrare in vigore immediatamente.

“Con l’approccio attuale, ci vorranno circa due anni prima che l’applicazione della normativa sia possibile”, ha affermato.

Una delle regole iniziali che ha detto di voler vedere implementata è un registro che richiederebbe sistemi con un livello specifico di capacità di riferire al governo.

Bengio ha affermato che ciò attribuirebbe la responsabilità e il costo della dimostrazione della sicurezza alle grandi aziende tecnologiche che sviluppano questi sistemi, piuttosto che ai contribuenti.

Il disegno di legge C-27 è stato redatto per la prima volta nel 2022 per prendere di mira quelli che vengono descritti come sistemi di intelligenza artificiale “ad alto impatto”.

Bengio ha affermato che il governo dovrebbe modificare la definizione legislativa di “ad alto impatto” per includere la tecnologia che pone minacce alla sicurezza nazionale e alla società.

Ciò potrebbe includere qualsiasi sistema di intelligenza artificiale che i malintenzionati potrebbero utilizzare per progettare attacchi informatici e armi pericolosi, o sistemi che trovano modi per auto-replicarsi nonostante le istruzioni di programmazione contrarie.

Sistemi di intelligenza artificiale generativa come ChatGPT, che può creare testo, immagini e video, sono emersi per un uso pubblico diffuso dopo la prima introduzione del disegno di legge.

Il governo ha detto che intende modificare la legislazione per riflettere questo.

I liberali affermano che mirano a richiedere alle aziende di adottare misure volte a garantire che i contenuti che creano siano identificabili come generati dall’intelligenza artificiale.

Bengio ha affermato che è “molto importante coprire i sistemi di IA generici perché sono anche quelli che potrebbero essere più pericolosi se utilizzati in modo improprio”.

Anche Catherine Regis, professoressa dell’Università di Montreal, ha detto lunedì alla commissione riunita che il governo deve agire con urgenza, citando i recenti “sviluppi meteorologici nell’intelligenza artificiale che tutti conosciamo”.

Parlando in francese, ha sottolineato che la regolamentazione dell’IA è uno sforzo globale e che il Canada deve capire cosa fare a livello nazionale se vuole avere voce in capitolo.

“Saranno prese decisioni su scala globale che avranno un impatto su tutti i paesi”, ha affermato.

Stabilire una visione chiara e solida a livello canadese è “una delle condizioni essenziali per svolgere un ruolo strutturante e influente credibile nella governance globale”, ha affermato.

GUARDA | Il pioniere dell’intelligenza artificiale Yoshua Bengio condivide una preoccupazione primaria:

I deepfake e altra disinformazione sono in cima alla lista delle paure del pioniere dell’intelligenza artificiale Yoshua Bengio

Il professore e scienziato informatico di Montreal, conosciuto a livello internazionale come il “Padrino” dell’intelligenza artificiale, condivide le sue maggiori preoccupazioni legate all’intelligenza artificiale per il 2024.

Il governo federale deve muoversi rapidamente per regolamentare l’intelligenza artificiale, ha affermato un pioniere dell’intelligenza artificiale che avverte che l’attuale traiettoria della tecnologia comporta importanti rischi per la società Yoshua Bengio, soprannominato il “padrino” dell’intelligenza artificiale, ha detto lunedì ai membri del Parlamento che Ottawa dovrebbe mettere in atto immediatamente una legge, anche se tale…

Leave a Reply

Your email address will not be published. Required fields are marked *