Nosso Manifesto

Inteligência Artificial em Perspectiva

Acreditamos que as soluções de dados e IA devem:

  • Trazer benefícios para a sociedade. Ao construir soluções, iremos sempre entender fatores e riscos sociais e econômicos envolvidos na solução; não construir aplicações abusivas ou prejudiciais; entender profundamente o propósito de uso principal, observando, inclusive, quão relacionada e adaptável a tecnologia é para aplicações prejudiciais.

  • Ser centradas em pessoas. Ao construir soluções, iremos sempre nos preocupar em entender e transmitir pontos críticos dos processos decisórios dos algoritmos e decisões construídas para os envolvidos. Construir times diversos o suficiente para enxergar os diferentes aspectos de um desafio ou solução e, principalmente, os pontos cegos de uma solução ou produto. Tanto do ponto de vista técnico quanto de impacto socioeconômico.

  • Ter privacidade e segurança como premissa. Ao construir soluções, iremos sempre nos questionar se há limites de privacidade sendo ultrapassados e atuar para eliminar riscos de violação de privacidade como parte da construção ou do resultado do projeto. Iremos projetar arquiteturas que prezam pela privacidade dos dados, promovendo transparência e controle quanto ao uso dos dados. Buscaremos consentimento para uso dos dados, sempre que possível, esclarecendo termos de uso da aplicação. Iremos prezar e sermos guardiões dos dados de terceiros envolvidos na solução, garantindo privacidade, segurança e discrição ao tratar, armazenar, analisar e expor resultados.

  • Ser construídas e testadas cautelosamente. Ao construir soluções, iremos sempre prezar por rigor científico das soluções construídas e aplicar práticas de segurança e proteção a potenciais efeitos colaterais da tecnologia. Em casos apropriados, criar condições de teste em ambientes simulados e monitorar a operação depois de colocada em produção.

  • Evitar criar ou reforçar preconceitos ou decisões injustas. Ao construir soluções, iremos sempre garantir que os algoritmos e soluções construídas não têm viés indesejado e nem geram riscos adicionais relacionados à representatividade e participação de grupos e classes. Iremos questionar a definição de sucesso do projeto, dos modelos e algoritmos, garantindo que o resultado não privilegia nem discrimina nenhum grupo.