A IA mudará o mundo, então é hora de mudar a IA

Para garantir que a IA atenda ao seu potencial como ferramenta transformadora, ela deve ser desenvolvida por uma comunidade de pesquisa verdadeiramente representativa, dizem Tess Posner e Li Fei-Fei.

A inteligência artificial (IA) é uma força motriz da transformação tecnológica pela qual a humanidade está passando, mas há uma crise de diversidade nesse campo, corremos o risco de perder as perspectivas que poderiam moldar as soluções mais profundas para os desafios que enfrentamos na próxima década, se continuarmos em nosso caminho atual.

Essa necessidade não poderia ser mais clara, em 2019, menos de 14% dos autores de pesquisas de IA no servidor de pré-impressão, arXiv, eram mulheres. Pesquisadores no leste da Ásia, Europa e América do Norte são autores de 86% dos artigos publicados em conferências de IA em 2018; pesquisadores em regiões como América Latina, Caribe, Oriente Médio, norte da África, África subsaariana e sul da Ásia representaram os 14% restantes. Nos Estados Unidos, em 2020, 1,7% dos cargos técnicos no Facebook eram ocupados por negros. 

Os aplicativos e produtos alimentados por IA podem herdar, ou até mesmo ampliar, preconceitos, pontos cegos e preconceitos humanos centenários

Por exemplo, devido a dados de treinamento tendenciosos, algoritmos destinados a diagnosticar câncer de pele podem falhar na identificação de casos potenciais em pacientes com pele mais escura, da mesma forma, um sistema de IA para prever um declínio na função renal foi considerado muito mais preciso para pacientes do sexo masculino do que para pacientes do sexo feminino. Ao mesmo tempo, vimos o potencial da IA ​​a ser usada para criar um impacto positivo no mundo, abordando questões na medicina, saúde e ciência do clima.

Estamos em um ponto de inflexão, a influência da IA ​​continua a crescer, mas a representação e inclusão de uma diversidade de pesquisadores da área não, é fundamental que aproveitemos este momento para criar estruturas que apoiarão mudanças positivas de longo prazo. Isso não acontecerá por meio de um único mecanismo ou solução rápida, começa com a educação inicial e se estende às estruturas existentes de poder dentro da academia, culturas de trabalho entre os atuais pesquisadores de IA e funções de controle da publicação de pesquisas, para citar algumas alavancas de mudança.

Por meio de nossa organização, AI4ALL, estamos treinando e nutrindo uma comunidade de futuros líderes interdisciplinares de IA com uma diversidade de experiências vividas e identidades, alguns dos alunos com quem tivemos a honra de trabalhar nos últimos cinco anos incluem uma estudante do ensino médio usando IA para rastrear água contaminada por pesticidas em sua comunidade agrícola, uma estudante universitária que pesquisa usos desiguais de tomada de decisão algorítmica em o sistema de justiça criminal dos Estados Unidos e uma jovem criando tecnologia assistiva inspirada por um membro da família com deficiência visual. Nosso sonho é possibilitar que mais pessoas como essas entrem, persistam e liderem em pesquisas de IA e campos relacionados.

Oferecemos perguntas a instituições, editores e pesquisadores para estimular discussões sobre como melhorar a inclusão na IA.

Para instituições acadêmicas

  • . Quem se beneficia principalmente de financiamento, apoio e reconhecimento dentro de sua instituição?
  • . Você informa sobre os dados demográficos de quem é contratado e promovido em sua instituição?
  • . Você está convocando professores de grupos sub-representados para fazer o pior de seu trabalho de diversidade em departamentos individuais?
  • . Você pode incentivar a pesquisa interdisciplinar que incentiva a colaboração entre pessoas com diferentes abordagens, perspectivas e experiências?

Para editores

  • . Você está procurando ativamente por vozes que ainda não opinaram sobre os tópicos de pesquisa sobre os quais está publicando?
  • . Você pode garantir que seus revisores representem uma diversidade de experiências vividas e áreas de especialidade, incluindo sociólogos e especialistas em ética, que podem ter uma visão sobre os impactos sociais da pesquisa que está sendo considerada para publicação?
  • . Se você estiver publicando um trabalho que pode impactar negativamente um determinado grupo, você pode abrir espaço para uma voz desse grupo responder?
  • . Você pode priorizar a publicação de pesquisas interdisciplinares?

Para pesquisadores

  • . Você pode colaborar com pesquisadores com diferentes conjuntos de habilidades e perspectivas de você?
  • . Você pode trabalhar para dar crédito e reconhecimento justos aos pesquisadores de grupos sub-representados?
  • . Você está prestando atenção à diversidade e inclusão ao participar ou organizar seminários, workshops ou conferências?
  • . Você pode examinar onde o preconceito inconsciente pode influenciar a contratação, admissões ou outras decisões para as quais você contribui?

A pesquisa de IA está mudando muitos aspectos do nosso mundo, é um privilégio incrível fazer parte de um campo tão gratificante e influente, com esse privilégio, vem a responsabilidade de estender seus benefícios o máximo possível. 

Isso significa compartilhar a oportunidade de inovar com um grupo mais amplo e diversificado de colaboradores, significa trazer uma gama mais ampla de perspectivas e experiências para lidar com os problemas que buscamos resolver, acima de tudo, significa garantir que o impacto do nosso trabalho seja positivo, não apenas para alguns poucos afortunados, mas para todos.

Nature 588 , S118 (2020)

Doi: https://doi.org/10.1038/d41586-020-03412-z

Este artigo faz parte do Nature Index 2020 Artificial intelligence , um suplemento editorial independente. Os anunciantes não têm influência sobre o conteúdo.

Para ler o artigo original, copie e cole o link abaixo em seu navegador:

https://nature.us17.list-manage.com/track/click?u=2c6057c528fdc6f73fa196d9d&id=fb97adb954&e=6a834577b3

VOCÊS CONHECEM NOSSOS CURSOS DE TECNOLOGIA NA SAÚDE?

Combo : Inovações e Impactos de Tecnologia em Saúde

Combo : Princípios e Gestão de Tecnologia em Saúde

CONHEÇA NOSSOS CURSOS. CLIQUE NAS IMAGENS PARA SABER MAIS!

Compartilhe em suas Redes Sociais