Por que veículos autônomos não devem ser rotulados como ‘IA de alto risco’
Os veículos autônomos supervisionados estão se tornando uma presença comum nas estradas, mesmo que ainda não tenham alcançado o nível de táxis robóticos totalmente autônomos. Empresas líderes no setor já estão gerando lucros com a venda desses veículos e coletando grandes quantidades de dados de condução sem custo adicional, utilizando essas informações para treinar e aprimorar suas IAs.
A evolução da indústria automobilística
A posição de um país como líder mundial em densidade de robôs industriais é em grande parte atribuída às suas forças em eletrônicos e automóveis. A manufatura utiliza mais robôs do que qualquer outro país, e estes têm sido equipamentos padrão na produção de automóveis. A indústria está agora entrando em uma fase onde IAs e robôs constroem veículos, IAs os operam e os humanos utilizam esses sistemas enquanto pagam pelo uso da IA.
Legislação e regulação
A nova legislação sobre IA de um país entrou em vigor recentemente, estabelecendo um precedente global como a primeira norma abrangente que regula operadores de IA classificados como de alto risco. Entretanto, a União Europeia, que influenciou fortemente essa legislação, adiou suas próprias regulações sobre IA de alto risco, preocupando-se que uma resposta regulatória rápida ao desenvolvimento da IA possa deixar a região atrás na competição global.
As novas leis atribuíram responsabilidades aos provedores de IA para gerenciar riscos elevados e impõem sanções por violações. Contudo, há crescente inquietação sobre a dificuldade de determinar objetivamente o que realmente constitui IA de alto risco na prática.
Desafios da IA geral
Os sistemas de IA de propósito geral criam um dilema regulatório, pois seus usos e propósitos não podem ser definidos antecipadamente. Isso levou a uma mudança na abordagem da União Europeia, que agora impõe obrigações de transparência e segurança aos desenvolvedores desde a fase de design do modelo. Essa mudança gerou forte oposição dos Estados Unidos, uma vez que a visão original de proteger os humanos gerenciando riscos foi fundamentalmente perturbada pelo lançamento de sistemas como o ChatGPT.
Implicações para veículos autônomos
Enquanto a tecnologia de IA se torna cada vez mais integrada na vida cotidiana, as categorias de IA de alto risco e a abordagem regulatória adotadas permanecem em grande parte presas a um framework anterior. Com a implementação dessas regras, um país se coloca sob intenso escrutínio internacional. Por exemplo, veículos autônomos de nível 4 e táxis robóticos comercializados no exterior já são considerados de alto risco.
Embora seja compreensível a intenção de proteger os humanos classificando tecnologias como de alto risco, isso pode comprometer a competitividade nacional, especialmente se robôs humanoides forem vistos como inovações, enquanto veículos autônomos são rotulados como negócios de alto risco.
Alternativas e propostas
Uma abordagem alternativa poderia ser adotar um sistema semelhante ao do Reino Unido, onde as seguradoras compensam as vítimas em caso de acidentes com veículos autônomos e, em seguida, exercem direitos de regresso. Isso reduziria a carga imediata de responsabilidade sobre os fabricantes de automóveis. Outras perspectivas estratégicas incluem políticas que apoiem ativamente o desenvolvimento de aplicações de IA de alto risco, em vez de desencorajá-las através de regulamentações prematuras.
Em conclusão, é crucial reconsiderar o que constitui IA de alto risco e como esses riscos devem ser regulados, refletindo as realidades nacionais para garantir a competitividade no cenário global.
