Abrandar a inteligência artificial: o sobressalto, as propostas e os compromissos
O risco de perda do controlo da IA preocupa cada vez mais, sendo o tema do momento na comunidade tecnológica, e até fora dela. Conheça o que está em causa e o que dizem os principais intervenientes.
Em março 2023, uma carta aberta do think thank Future of Life Institute, assinada por personalidades como Elon Musk e Steve Wozniak – incluindo o professor português Luís Moniz Pereira -, exigiu uma “pausa de pelo menos seis meses” no treino de sistemas de inteligência artificial (IA) generativa. Entre as preocupações dos signatários estava o risco de “perda de controlo” destes sistemas.
Mais de três anos depois, a discussão sobre o ritmo de desenvolvimento tecnológico regressou com toda a força, e agora ao mais alto nível. Dario Amodei, cofundador e CEO da Anthropic, empresa que desenvolveu alguns dos modelos de IA mais capazes do mundo, publicou um texto em que declara: “Precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA.”
Publicado originalmente no ECO