Mundo - Diretrizes para Inteligência Artificial ética

UNESCO - 12 de Dezembro de 2021 - Imagem: © eCuesta Publicidade

A inteligência artificial está cada vez mais presente na vida das pessoas e já se tornou essencial para realizar muitas atividades No entanto, conforme a Inteligência Artificial (IA) se consolida como essa "melhor amiga", os desafios para torná-la mais ética também aumentam.

Privacidade e segurança estão entre as preocupações, além de questões relacionadas a vieses discriminatórios em áreas como raça e gênero. Por isso, a UNESCO preparou uma série de diretrizes éticas para melhorar o uso de inteligência artificial.

Audrey Azoulay, a diretora geral da UNESCO, apresentou no dia 24 de outubro o primeiro instrumento normativo mundial sobre ética da Inteligência Artificial aprovado pelos Estados-membros da UNESCO em sua Conferência Geral.

Esse texto histórico define os valores e os princípios comuns que nortearão a construção do marco jurídico necessário para garantir o desenvolvimento saudável da Inteligência Artificial.

A Inteligência Artificial é abrangente e possibilita muitas de nossas rotinas diárias, como reservar voos, dirigir carros sem motorista e personalizar nossos feeds de notícias matinais. A Inteligência Artificial também ajuda na tomada de decisões de governos e do setor privado.

As tecnologias de Inteligência Artificial têm proporcionado resultados notáveis em campos altamente especializados, como em tratamentos oncológicos e construção de ambientes inclusivos para pessoas com deficiência. Eles também ajudam a combater problemas mundiais, como mudança climática e fome no mundo, e ajudam a reduzir a pobreza ao otimizar a ajuda econômica.

Entretanto, a tecnologia também tem acarretado novos desafios sem precedentes. Para citar alguns, temos visto aumento do preconceito de gênero e de etnia, ameaças significativas à privacidade, à dignidade e à capacidade de ação, perigos de vigilância em massa e aumento do uso de tecnologias de Inteligência Artificial não confiáveis na aplicação da lei. Até a atualidade, não havia padrões universais para fornecer uma resposta a essas questões.

Em 2018, Audrey Azoulay, a diretora-geral da UNESCO, lançou um projeto ambicioso: oferecer ao mundo uma estrutura ética para o uso da inteligência artificial. Três anos depois, graças à mobilização de centenas de especialistas de todo o mundo e intensas negociações internacionais, os 193 Estados-membros da UNESCO acabam de aprovar oficialmente esse marco de ação ético.

"O mundo necessita de regras de inteligência artificial para o benefício da humanidade. A Recomendação sobre a Ética da Inteligência Artificial é uma resposta importante. Estabelece o primeiro instrumento normativo global, ao mesmo tempo que atribui aos Estados a responsabilidade de aplicá-lo em seu âmbito nacional. A UNESCO apoiará seus 193 Estados-membros em sua implementação e pedirá que relatem seu progresso e suas práticas com regularidade", declara Audrey

O CONTEÚDO DAS RECOMENDAÇÕES

A Recomendação visa a identificar as vantagens e que a Inteligência Artificial proporciona para a sociedade e a reduzir os riscos que ela acarreta. Essa Recomendação garante que as transformações digitais promovam os direitos humanos e contribua para o alcance dos Objetivos de Desenvolvimento Sustentável, ao tratar de questões sobre transparência, responsabilização e privacidade, com capítulos sobre políticas orientadas para a ação sobre governança de dados, educação, cultura, trabalho, saúde e economia.

1. Proteção de dados - A Recomendação exige ação além do que as empresas de tecnologia e governos estão fazendo para garantir aos indivíduos mais proteção, e garantir transparência, capacidade de ação e controle sobre seus dados pessoais. Afirma que todos os indivíduos devem ser capazes de acessar ou mesmo apagar registros de seus dados pessoais. Também inclui ações para melhorar a proteção de dados e o conhecimento de um indivíduo e o direito de controlar seus próprios dados. Também aumenta a capacidade de órgãos reguladores em todo o mundo para fazer cumprir esta norma.

2. Proibição de pontuação social e vigilância em massa - A Recomendação proíbe de forma explícita o uso de sistemas de Inteligência Artificial para pontuação social e vigilância em massa. Esses tipos de tecnologias são muito invasivos, violam os direitos humanos e as liberdades fundamentais e são usados de forma ampla. A Recomendação enfatiza que, ao desenvolver marcos regulatórios, os Estados-membros devem considerar que a responsabilização final e a prestação de contas devem sempre caber aos seres humanos e que as tecnologias de Inteligência Artificial não devem assumir personalidade jurídica.

3. Ajuda no monitoramento e na avaliação - A Recomendação também estabelece as bases para ferramentas que auxiliarão em sua implementação. A Avaliação de Impacto Ético visa a ajudar os países e as empresas a desenvolver e implantar sistemas de Inteligência Artificial ( IA) para avaliar o impacto desses sistemas nos indivíduos, na sociedade e no meio ambiente. A Metodologia de Avaliação da Prontidão ajuda os Estados-membros a avaliar o quanto estão preparados em termos de infraestrutura jurídica e técnica. Essa ferramenta ajudará a fortalecer a capacidade institucional dos países e recomendará medidas apropriadas a serem tomadas para garantir que a ética seja implementada na prática. Além disso, a Recomendação incentiva os Estados-membros a considerarem a adição da função independente de um Oficial de Ética de Inteligência Artificial ou algum outro mecanismo para supervisionar os esforços de auditoria e monitoramento contínuo.

4. Proteção do meio ambiente - A Recomendação enfatiza que os atores de Inteligência Artificial devem favorecer dados, energia e métodos de Inteligência Artificial eficientes em recursos que ajudem a garantir que a Inteligência Artificial se torne uma ferramenta mais proeminente na luta contra a mudança climática e no tratamento de questões ambientais. A Recomendação pede aos governos que avaliem o impacto ambiental direto e indireto ao longo do ciclo de vida do sistema de Inteligência Artificial. Isso inclui sua captação de carbono, consumo de energia e impacto ambiental da extração de matéria-prima para a fabricação de tecnologias de Inteligência Artificial. Também visa a reduzir o impacto ambiental dos sistemas de Inteligência Artificial e infraestruturas de dados. Incentiva os governos a investirem em tecnologia verde e, se houver um impacto negativo desproporcional dos sistemas de Inteligência Artificial no meio ambiente, a Recomendação orienta que eles não devem ser utilizados.

"As decisões que afetam milhões de pessoas devem ser justas, transparentes e contestáveis. Essas novas tecnologias devem nos ajudar a enfrentar os principais desafios do nosso mundo atual, assim como o aumento das desigualdades e a crise ambiental, e não o seu aprofundamento.", enfatiza Gabriela Ramos, diretora-geral adjunta da UNESCO em Ciências Humanas e Sociais

Tecnologias emergentes, como a Inteligência Artificial, provaram sua imensa capacidade de oferecer resultados positivos. No entanto, seus impactos negativos, que agravam um mundo já dividido e desigual, devem ser controlados. Os desenvolvimentos de Inteligência Artificial (IA) devem obedecer ao estado de direito, evitar danos e garantir que, quando o dano acontecer, mecanismos de responsabilização e reparação estejam disponíveis para as pessoas afetadas.

Leia o texto completo da Recomendação(*) (em inglês)
Leia mais sobre ética da inteligência artificial (em inglês)
Leia mais sobre os 24 especialistas que escreveram o texto da Recomendação (em inglês)

(*) No início de 2022, a Recomendação da UNESCO sobre Ética da Inteligência Artificial estará disponível em português.

 

» Participe do grupo do Jornal eCuesta no WhatsApp » chat.whatsapp.com/JyUrDbCIyzy6aIUDnyAmAF/
» Curta a página do Jornal eCuesta no Facebook » www.facebook.com/jornal.ecuesta/
» Siga o Jornal eCuesta no Twitter » https://twitter.com/Jornal_eCuesta
» Acompanhe o Jornal eCuesta no Telegram » https://t.me/jornalecuesta
» Siga o Jornal eCuesta no Instagram » https://www.instagram.com/jornalecuesta/