Quarenta e dois países – dentre eles o Brasil – aderiram aos princípios sobre AI em 22 de maio de 2019.
No último dia 22, durante reunião em Paris que debateu o papel da transição digital para a criação de um modelo sustentável de desenvolvimento, a Organização para a Cooperação e Desenvolvimento Econômico (OCDE) lançou os Princípios sobre Inteligência Artificial que foram adotados por 42 países – os 36 membros oficiais da OCDE, seguidos também por Brasil, Argentina, Colômbia, Costa Rica, Peru e Romênia.
A recomendação[1] – que visa a orientar governos, organizações e indivíduos – veio em resposta à crescente preocupação da sociedade com segurança, proteção da privacidade e criação de limites éticos para o uso dessa nova tecnologia. Para tanto, a OCDE buscou apontar o caminho para a promoção de inteligência artificial (IA) que seja inovadora, confiável e que respeite os direitos humanos e os valores democráticos, desenhando os seguintes princípios[2]:
IA deve beneficiar o desenvolvimento sustentável e o bem-estar das pessoas e do planeta por meio da promoção de crescimento inclusivo;
Sistemas de IA devem ser desenvolvidos para respeitarem o Estado de Direito, os direitos humanos, os valores democráticos e a diversidade, bem como devem incluir salvaguardas – como a intervenção humana, quando necessária – que garantam uma sociedade justa;
Deve haver transparência e informação sobre os sistemas de IA, garantindo que as pessoas compreendam os resultados obtidos pela IA e possam contestá-los;
Durante o seu ciclo de vida, os sistemas de IA devem funcionar de forma robusta e segura, com contínua análise e gerenciamento de riscos potenciais;
Organizações e indivíduos envolvidos no desenvolvimento, implantação ou operação dos sistemas de IA devem ser responsabilizados pelo seu funcionamento adequado e em harmonia com os demais princípios.
Como próximos passos, o grupo de mais de 50 especialistas responsável pela recomendação trabalhará na elaboração de um guia prático de implementação dos princípios da OCDE, bem como na construção de métricas para acompanhar o desenvolvimento dos sistemas de IA.
[1] Recomendações não possuem caráter vinculante, contudo influenciam significativamente as legislações nacionais e refletem nas relações entre países.
[2] OECD Principles on Artificial Intelligence. Disponível em: <https://www.oecd.org/going-digital/ai/principles/>. Acesso em 30.05.2019.
*****
OECD launches Principles on Artificial Intelligence
Forty-two countries – including Brazil – adopted the principles on May 22, 2019.
On May 22, during a Paris-meeting on the role of the digital transition for creating a sustainable development model, the Organisation for Economic Co-operation and Development (OECD) launched its Principles on Artificial Intelligence, adopted by 42 countries – the 36 OECD members plus Brasil, Argentina, Colombia, Costa Rica, Peru and Romania.
The recommendation[1] – which gives guidance to governments, organizations and individuals – came as a response to the increased social concerns around safety, privacy protection and the creation of ethical boundaries for the uses of this new technology. For that reason, the OECD pointed the way towards promoting innovative and trustworthy artificial intelligence (AI) that respects human rights and democratic values, doing so by designing the following principles[2]:
AI should benefit the sustainable development and well-being of peoples and of the planet by driving inclusive growth;
AI systems should be designed in a way that respects the rule of law, human rights, democratic values and diversity, and they should include appropriate safeguards – for example, enabling human intervention where necessary – to ensure a fair and just society;
There should be transparency and responsible disclosure around AI systems to ensure that people understand AI-based outcomes and can challenge them;
AI systems must function in a robust, secure and safe way throughout their life cycles and potential risks should be continually assessed and managed;
Organisations and individuals developing, deploying or operating AI systems should be held accountable for their proper functioning in line with the above principles.
For the next steps, the 50-member expert group responsible for the recommendation will work on a practical implementation guide for the OECD principles, as well as on the construction of metrics to assess the development of AI systems.
[1] Recommendations are not binding, but significantly influence national legislations and reflect on the relationship among countries.
[2] OECD Principles on Artificial Intelligence. Available at: <https://www.oecd.org/going-digital/ai/principles/>. Access on 05.30.2019.