Ao estudar os conceitos de AI pelo Microsoft Learn, fiz essas anotações e quero poder compartilhá-las com todos que tenham interesse em ter um conceito básico sobre IA responsável.
Quero voltar nesse artigo sempre que puder para eu nunca esquecer algum conceito aqui, antes de iniciar algum projeto que envolve inteligência artificial.
Os conceitos a seguir irá proporcionar uma melhor abordagem do seu novo aplicativo baseado em IA que você estiver implementando.
Fonte: Microsoft Learn.
Desafios e riscos com a IA
A inteligência artificial é uma ferramenta avançada que pode ser usada para levar muitos benefícios ao mundo. No entanto, como qualquer ferramenta, ela deve ser usada com responsabilidade.
A seguinte tabela mostra alguns dos possíveis desafios e riscos enfrentados por um desenvolvedor de aplicativos de IA.
| Desafio ou risco | Exemplo |
| A tendência pode afetar os resultados | Um modelo de aprovação de empréstimo discrimina por gênero devido à tendência dos dados com os quais ele foi treinado |
| Erros podem causar danos | Um veículo autônomo enfrenta uma falha do sistema e causa uma colisão |
| Os dados podem ser expostos | Um bot de diagnóstico médico é treinado usando dados confidenciais de pacientes, que ficam armazenados de forma insegura |
| As soluções podem não funcionar para todos | Um assistente de automação doméstica não fornece saída de áudio para usuários com deficiência visual |
| Os usuários devem confiar em um sistema complexo | Uma ferramenta financeira baseada em IA faz recomendações de investimento, mas com base em quê? |
| Quem é responsável por decisões baseadas em IA? | Uma pessoa inocente é condenada por um crime com base em evidências de reconhecimento facial. Quem é responsável? |
Noções básicas sobre a IA responsável
Na Microsoft, o desenvolvimento de software de IA é guiado por um conjunto de seis princípios, criados para garantir que os aplicativos de IA forneçam soluções incríveis para problemas difíceis sem consequências negativas involuntárias.
Imparcialidade
Os sistemas de IA devem tratar todas as pessoas de maneira justa. Por exemplo, suponha que você crie um modelo de machine learning para dar suporte a um aplicativo de aprovação de empréstimos para um banco. O modelo deve prever se o empréstimo deve ser aprovado ou negado sem parcialidade. Essa parcialidade pode ser baseado em gênero, etnia ou outros fatores que resultam em uma vantagem ou desvantagem injusta para grupos específicos de candidatos.
O Azure Machine Learning inclui a capacidade de interpretar modelos e quantificar a medida em que cada recurso dos dados influencia a previsão do modelo. Essa capacidade ajuda os cientistas de dados e os desenvolvedores a identificar e reduzir desvios no modelo.
Outro exemplo é a implementação da IA responsável pela Microsoft com o serviço de Detecção Facial, que desativa as funcionalidades de reconhecimento facial que podem ser usadas para tentar inferir estados emocionais e atributos de identidade. Essas funcionalidades, se mal utilizadas, podem submeter as pessoas a estereótipos, discriminação ou negação injusta de serviços.
Para obter mais detalhes sobre as considerações quanto à imparcialidade, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4vqfa?postJsllMsg=true&autoCaptions=pt-br
Confiabilidade e segurança
Os sistemas de IA devem ser executados de maneira confiável e segura. Por exemplo, considere um sistema de software baseado em IA para um veículo autônomo ou um modelo de machine learning que diagnostica os sintomas dos pacientes e recomenda as prescrições. A não confiabilidade nesses tipos de sistema pode resultar em risco substancial à vida humana.
O desenvolvimento de aplicativos de software baseado em IA deve estar sujeito a rigorosos processos de gerenciamento de implantação e de teste para verificar se eles funcionam conforme o esperado antes do lançamento.
Para obter mais informações com relação a considerações sobre confiabilidade e segurança, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4vvIl?postJsllMsg=true&autoCaptions=pt-br
Privacidade e segurança
Os sistemas de IA devem ser seguros e respeitar a privacidade. Os modelos de machine learning nos quais os sistemas de IA se baseiam dependem de grandes volumes de dados, que podem conter detalhes pessoais que precisam ser mantidos particulares. Mesmo depois que os modelos são treinados e o sistema está em produção, a privacidade e a segurança precisam ser levadas em consideração. Como o sistema usa novos dados para fazer previsões ou tomar medidas, tanto os dados como as decisões tomadas com base nos dados podem estar sujeitos a questões de privacidade ou segurança.
Para obter mais detalhes sobre as considerações quanto à privacidade e segurança, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4voJF?postJsllMsg=true&autoCaptions=pt-br
Inclusão
Os sistemas de IA devem capacitar todos e envolver as pessoas. O IA deve levar benefícios a todas as camadas da sociedade, independentemente da capacidade física, do sexo, da orientação sexual, da etnia ou de outros fatores.
Para obter mais detalhes sobre as considerações quanto à inclusão, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4vl9v?postJsllMsg=true&autoCaptions=pt-br
Transparência
Os sistemas de IA devem ser compreensíveis. Os usuários devem ficar totalmente cientes da finalidade do sistema, de como ele funciona e de quais limitações podem ser esperadas.
Para obter mais detalhes sobre as considerações quanto à transparência, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4vl9v?postJsllMsg=true&autoCaptions=pt-br
Responsabilidade
As pessoas devem ser responsáveis pelos sistemas de IA. Os designers e desenvolvedores de uma solução baseada em IA devem funcionar dentro de uma estrutura de governança e de princípios organizacionais que garantam que a solução cumpra a padrões éticos e legais claramente definidos.
Para obter mais detalhes sobre as considerações quanto à responsabilidade, assista ao vídeo a seguir.
https://www.microsoft.com/pt-br/videoplayer/embed/RE4vvIk?postJsllMsg=true&autoCaptions=pt-br
Os princípios da IA responsável podem ajudar você a entender alguns desafios enfrentados pelos desenvolvedores conforme eles tentam criar soluções éticas de IA.
Segue links para um profundo entendimento sobre o assunto:
Ferramentas e práticas:
https://lnkd.in/diwiNGd8
Framework da Microsoft para construir sistemas de IA de forma responsável:
https://lnkd.in/dBUksB57