Foto: Freepik
L’institut Future of Life ha fet pública la carta Pausa en els experiments gegants d’IA i ha obert el debat sobre els efectes i els riscos que pot comportar l’ús dels sistemes d’Intel·ligència Artificial amb una intel·ligència competitiva amb la humana. Entre els signants hi apareixen persones com Elon Musk (un dels fundadors d’Open AI i propietari de Twitter i SpaceX), Steve Wozniak (fundador d’Apple) o els acadèmics Stuart Rusell i Ramón López de Mántaras.
En total, ha sumat 1.124 signatures amb què els participants han qüestionat fins a quin punt valen la pena els avenços que pot portar la IA i han exposat la manca de regulació que existeix en aquest àmbit.
Els signants han apuntat que els sistemes d’IA potents “només s’han de desenvolupar quan estiguem que els seus efectes seran positius, i els seus riscos, controlables”. En aquest sentit, proposen que cal desenvolupar i aplicar “una sèrie de protocols de seguretat compartits per al disseny i el desenvolupament d’IA avançada que siguin rigorosament auditats i supervisats externs independents”.
El grup de signants ha conclòs que caldria comptar amb noves autoritats reguladores, una supervisió i un seguiment de les IA més potents i uns sistemes que permetin determinar la procedència d’un contingut amb una sèrie d’estàndards que ajudi a distingit el que és real del que és sintètic.
