Descubra como a Inteligência artificial impacta na diversidade

Com base na elaboração e na aplicação de algoritmos, a inteligência artificial (IA) veio ao mundo programada para otimizar e aprimorar diversos processos de tomada de decisão. Da seleção de bolsistas de um projeto universitário à análise de pessoas supostamente suspeitas via detecção facial, a participação e a interferência da inteligência artificial na vida das pessoas avançam a passos largos.

Uma vez que há participação humana na concepção de tais algoritmos, todo esse contexto ressalta a importância de avaliar o senso de ética de quem cria tais algoritmos. Afinal, se um dos pontos-chave é o machine learning, convém abordar o impacto dessa tecnologia sobre a diversidade. Ao mesmo tempo, é crucial analisar como ela pode, de fato, contribuir para a conquista de um mundo mais justo e plural.

A diversidade é um dos valores da nossa empresa e uma parte importante da nossa estratégia corporativa. O mundo está mudando – assim como a Bosch - e, especialmente em tempos de transformação, a empresa precisa de mais diversidade do que nunca. Afinal, são os colaboradores que contribuem para o sucesso com suas diferentes personalidades, experiências e perspectivas. 

Acreditamos que a mudança estrutural e digital em uma empresa líder em AIoT pode ser alcançada com uma cultura de trabalho aberta, que reconheça o valor de cada indivíduo e na qual todos os colaboradores possam contribuir com seu talento e pontos de vista diferentes da melhor maneira possível, seja no dia a dia, quanto no desenvolvimento de soluções.

Antes de se concentrar no efeito da correlação de todas as partes em análise, é necessário observar algumas definições, a começar pelos próprios algoritmos de inteligência artificial. Basicamente, eles equivalem a determinado conjunto de procedimentos sequenciais que oferecem respostas com base nos dados disponíveis e na forma como são cruzados entre si.

De modo geral, vieses são correlações instantâneas e automáticas realizadas pelo cérebro humano a partir das mais diferentes situações. De acordo com suas próprias experiências e visão de mundo, o indivíduo fica propenso a pensar ou a agir de maneira enviesada.

Fato é que existem inúmeros tipos de vieses, o que só torna toda a problemática evidenciada ainda mais complexa. Apenas para fins ilustrativos, vale a pena mencionar um dos vieses mais conhecidos: o efeito de popularidade. Nesse caso, os posicionamentos das pessoas tendem a ser enviesados conforme a posição tomada por um grupo de indivíduos.

Em outra vertente, ligada à anterior, há o viés de confirmação, no qual as pessoas interpretam informações (que não são opiniões, por sinal) de forma seletiva. Aqui, valoriza-se somente os aspectos que atestam o ponto de vista defendido pelo indivíduo, que simplesmente ignora o restante.

Para entender como os algoritmos são guiados por vieses, basta lembrar que o aprimoramento das soluções entregues por eles depende de seus criadores. Dado que as pessoas são as responsáveis por desenvolver os processos matemáticos em questão, é natural constatar que eles estão fadados a sofrer influência dos mesmos padrões enviesados adotados por essas pessoas.

Na prática, os algoritmos de IA seguem os parâmetros designados pelos seus desenvolvedores. Considerando que os seres humanos são parciais, não faz sentido esperar que as tecnologias ajam de modo perfeitamente racional e objetivo.

Na verdade, o que se vê (até o momento) com considerável regularidade é exatamente o oposto: soluções amparadas em algoritmos que reproduzem comportamentos repletos de subjetividade e vieses problemáticos. Evidências disso não faltam, como você verá a seguir.

Por enquanto, é importante destacar que essas consequências negativas estão vinculadas à inserção de dados discriminatórios ou ao projeto do algoritmo em si — ou a ambos os fatores. Os chamados dados “ruins” podem estar:

• incompletos, o que pode distorcer os resultados almejados;
• desatualizados;
• carentes de parâmetros representativos de determinado grupo;
• extraídos de contextos discriminatórios, como certos períodos históricos.

Em um processo seletivo de emprego, o viés negativo traz consequências mais graves. Isso porque o sistema se acostuma a agrupar somente pessoas semelhantes às selecionadas previamente, o que pode incluir detalhes como cor da pele e gênero.

Outro exemplo são os falhos reconhecimentos faciais usados em aeroportos e outros locais. Afinal, não deve ser coincidência que a maioria das pessoas tratadas como suspeitas pelos algoritmos têm pele negra.

Quanto ao funcionamento do algoritmo, a conduta enviesada também se manifesta de maneiras distintas. Um bom exemplo são as recomendações, embasadas em uma reduzida concentração de dados. É o caso dos serviços de streaming (distribuição e transmissão digital de conteúdo multimídia), que frequentemente utiliza das recomendações e acaba por colocar o usuário em uma “bolha”, apresentando a ele apenas conteúdos relacionados entre si.

O desempenho questionável de uma ampla quantidade de algoritmos apenas demonstra que os vieses sociais, algumas vezes inconscientes, também se refletem nas soluções tecnológicas. Em outros tempos, talvez houvesse a ideia de que, com o avanço da tecnologia, problemas crônicos e estruturais, como o racismo e a desigualdade de gênero, fossem resolvidos.

Nesse ponto, vale a reflexão: a fonte do problema não é a inteligência artificial, mas seu uso inadequado ou subaproveitado. Sendo assim, é necessário realizar um debate ético em torno do assunto. Afinal, o elemento em comum entre a sociedade do mundo real e o universo digital é o próprio ser humano.

Quando alimentados com dados que meramente sustentam e reforçam padrões discriminatórios, os algoritmos de inteligência artificial colaboram para a ocorrência de injustiças. Além disso, prejudicam a busca por uma sociedade verdadeiramente pautada em uma diversidade ampla e viva.

Não há dúvidas quanto à facilidade e ao progresso que os algoritmos, ainda em pleno desenvolvimento, podem propiciar à vida humana. Contudo, faz-se necessário que os processos associados à inteligência artificial sejam devidamente regulamentados a fim de que se tornarem mais transparentes.

Em 2025, o objetivo é que todos os produtos da Bosch contenham IA ou tenham sido desenvolvidos ou fabricados com sua ajuda. Há, entretanto, um detalhe extremamente relevante: a confiança das pessoas. Por isso, o código de ética de IA da Bosch é baseado no princípio de que os seres humanos devem ser a voz final na hora de tomar decisões baseadas em inteligência artificial.

Esse ponto central aparece ao lado do comprometimento da Bosch em desenvolver sistemas ou produtos que sejam seguros, robustos, acessíveis e, sobretudo, confiáveis. Tudo isso, evidentemente, devidamente regido pelas normas legais vigentes.

A partir do momento em que as soluções tecnológicas são desenvolvidas com ética, justiça e diversidade, é totalmente possível que elas cheguem a seu objetivo final: melhorar a vida de toda a sociedade. Antes disso, entretanto, é preciso saber como dialogar com as pessoas.

Como líder mundial que é, a Bosch entende seu papel de apresentar os benefícios gerados (e que estão por vir) pela inteligência artificial, como a contribuição para a redução do aquecimento global.

Código de ética da Bosch para IA

Com base na nossa estratégia "Tecnologia para a vida", agimos com responsabilidade e de acordo com os valores de qualidade e confiabilidade ao desenvolver e usar produtos com IA.

Nosso objetivo é criar soluções em que nossos clientes possam confiar. Para conseguir isso, combinamos ações baseadas em valores, metodologias e excelência tecnológica.

Somos guiados pelos seguintes princípios:

• Todos os produtos com IA da Bosch devem refletir nossa filosofia "tecnologia para a vida", que combina a busca pela inovação com um senso de responsabilidade social.
• As decisões que afetam as pessoas não devem ser feitas sem um líder humano, a IA deve ser uma tecnologia para facilitar a vida das pessoas.
• Desenvolvemos soluções seguras, robustos e explicáveis.
• A confiança é um dos valores fundamentais da empresa. Nossa intenção é desenvolver soluções confiáveis.
• Seguimos os requisitos legais e somos orientados aos princípios éticos.
• Seguimos os seguintes critérios:
• Um produto com IA, e / ou o uso para o qual é aplicado, não deve violar os artigos da Declaração Universal dos Direitos Humanos.
• Seu uso deve estar em conformidade com as leis dos países para os quais a solução foi desenvolvida.
• Tudo deve estar em conformidade com nossa missão “we are Bosch”
• As soluções devem ser guiadas em "Tecnologia para a vida": criadas para melhorar a qualidade de vida e conservar os recursos naturais.

Três abordagens para o papel da IA ​​na tomada de decisão:

“Human-in-command” (HIC): Nesta abordagem, o produto AI é usado puramente como uma ferramenta. Em todos os momentos, as pessoas decidem quando e como usar os resultados apresentados. Um exemplo é quando uma máquina ajuda as pessoas com tarefas de classificação.“Human-in-the-loop” (HITL): Nesta abordagem, as pessoas podem influenciar diretamente ou alterar as decisões tomadas por uma solução com IA.

"Human-on-the-loop" (HOTL): Esta abordagem diz respeito aos casos em que os parâmetros relevantes para as decisões são definidos pelas pessoas durante o processo do projeto. Isso garante que as pessoas não apenas definam os parâmetros para a tomada de decisão de antemão, mas também verifiquem retrospectivamente se a decisão foi executada corretamente.

É esse o tipo de iniciativa que a população espera de empresas comprometidas com a criação, a implantação e a sustentação de uma cultura digital, com base em princípios éticos. Por fim, vale frisar que os resultados gerados pela inteligência artificial devem, consequentemente, refletir as diferenças da sociedade, à medida que houver maior participação de pessoas, representando uma maior diversidade social.

Saiba mais sobre o código de ética da Bosch para IA

Quer trabalhar na Bosch? Confira nossas vagas: https://www.bosch.com.br/carreiras/