Compreendendo as políticas, questões éticas e regulatórias que sustentam a nova tecnologia

Palavras do Dr. Joshua Ellul, Presidente do MDIA e Diretor do DLT da Universidade de Malta. Converse com ele ainda este ano na edição de outono da Block Magazine

Nos últimos anos, vimos um aumento no interesse (e exagero) em torno da Inteligência Artificial (IA), Blockchain, Computação em nuvem, Ciência de dados e computação e comunicação quântica. Essas (e outras) tecnologias estão ajudando a moldar um novo mundo. Um mundo que poderia: (A) permitir mais automação de tarefas que normalmente requerem humanos; (B) fornecer mais transparência e garantias; (C) com custos iniciais mínimos; (D) para vários domínios diferentes; (Q) a velocidades e distâncias sem precedentes; para finalmente (Y) beneficiar VOCÊ.

Esses benefícios são frequentemente divulgados, mas qual será o seu lugar neste novo mundo não é discutido o suficiente. A seguir, uma série de questões que impactarão a sociedade serão discutidas.

Se você é um técnico, provavelmente tem uma boa noção do que está por vir. Se você vai trabalhar no desenvolvimento central de tais tecnologias, exigindo que você realize pesquisas para se familiarizar com os fundamentos teóricos, ou se vai desenvolver aplicativos usando essas tecnologias, você provavelmente está esperando (ou já usa) novas estruturas e bibliotecas que se escondem afastar as complexidades das tecnologias, permitindo que você se concentre no aplicativo em questão.

No entanto, um novo aspecto que será exigido dos técnicos cada vez mais é o engajamento com profissionais de outras disciplinas. Quer seja para discutir problemas específicos relativos ao respectivo domínio de negócios, ou debater com profissionais jurídicos em relação às opções e decisões de arquitetura técnica que podem exigir que vários requisitos regulatórios e de conformidade sejam seguidos (ou desafiados), ou mesmo especialistas em ética e diferentes partes interessadas com respeito às opções de implementação quando se trata de domínios de aplicativos que requerem inerentemente considerações éticas.

Além dos técnicos, que trabalham incessantemente na implementação de várias soluções para automatizar e melhorar várias tarefas e prestar novos tipos de serviço, estão os vários profissionais. Esses profissionais desempenham um papel fundamental para garantir que tais produtos e serviços sejam de natureza sólida, relevantes para as várias partes interessadas, que o produto e serviço seja realmente comercializável e honesto.

Seja trabalhando diretamente com uma empresa inovadora relacionada à tecnologia ou em qualquer outro setor, essas tecnologias emergentes terão um impacto nos profissionais em todos os setores. Quer seja necessário treinamento para entender os produtos e serviços que sua empresa oferece a fim de aplicar efetivamente suas habilidades, ou se seu trabalho é totalmente alheio, em algum momento, essas tecnologias terão impacto sobre como os processos que você segue serão alterados.

Ferramentas de IA para ajudar a implementar uma primeira linha de suporte ao cliente; entender quais processos se tornaram completamente transparentes usando Blockchain; mudança para serviços em nuvem que fornecem facilidade de acesso e uso; ou se os processos computacionais e a comunicação dão um salto Quantum em velocidade.

O exposto acima destaca a necessidade de multidisciplinaridade. Onde profissionais de várias origens — especializados em sua disciplina são conhecedores ou alfabetizados nas outras disciplinas, permitindo-lhes se envolver em discussões e pensamento crítico em relação às várias perspectivas, incluindo técnicas, jurídicas, comerciais e éticas.

Não apenas aqueles que trabalham direta ou indiretamente com tecnologias emergentes serão afetados. Essas tecnologias trazem mais digitalização e automação, permitindo que muitas tarefas sejam realizadas com mais eficiência e eficácia do que antes. Isso significa que certos tipos de trabalhos podem ser automatizados, o que não exigiria mais um humano totalmente informado. Algumas tarefas podem ser totalmente automatizadas, enquanto outras ainda podem exigir supervisão humana até certo ponto.

Na verdade, isso significa que alguns empregos que atualmente desempenhamos um papel essencial em várias indústrias podem não ser mais necessários. Devemos considerar como isso afetará as pessoas afetadas e como isso afetará a sociedade e quais políticas podem ser implementadas para minimizar os efeitos negativos sobre o indivíduo e a sociedade em geral. As pessoas afetadas conseguirão encontrar empregos semelhantes em outro lugar? Eles exigirão qualificação ou requalificação? Quais são as responsabilidades dos empregadores? Governos semelhantes? E mesmo indivíduos?

Vamos supor por um segundo que, através da automação, a quantidade acumulativa de trabalho que deve ser realizada dentro de uma sociedade pode ser minimizada. A sociedade seria capaz de se beneficiar diretamente disso, permitindo que todos se beneficiassem de mais tempo livre? Ou isso só beneficiará os que estão no topo da pirâmide? No entanto, é improvável que esta situação aconteça como foi demonstrado desde que os esforços de automação foram introduzidos durante a revolução industrial. Na verdade, certos tipos de tarefas que podem ser automatizadas usando IA e ciência de dados exigem que imagens e outros tipos de dados sejam rotulados ou verificados por operadores humanos. Essa necessidade deu origem a um novo setor, o de rotulagem de IA, no qual muitas “fazendas de IA” têm surgido em todo o mundo. Pode muito bem ser que a equipe anterior de garantia de qualidade de fabricação possa ser requalificada para trabalhar na indústria de rotulagem de IA, o que alguns podem considerar uma oportunidade de aumentar a qualidade das condições de trabalho para essa equipe (de empregos de chão de fábrica a empregos de escritório).

Blockchain, Distributed Ledger Technology (DLT) e Smart Contracts permitem a desintermediação — remoção de “intermediários” de vários serviços e processos, o que também traz consigo maior transparência, garantias e mecanismos à prova de falsificação que garantem que os participantes dos serviços não trapaceiem.

No entanto, essas garantias existem apenas nos serviços e processos codificados no próprio Blockchain. Isso significa que se um serviço requer uma entrada externa. Por exemplo, se Blockchain é usado para fornecer transparência dentro de uma cadeia de abastecimento para garantir que nenhum trabalho escravo seja usado, enquanto todos os dados relativos à equipe que trabalha dentro da cadeia de abastecimento e sua produtividade estão disponíveis para todos verem e não podem ser manipulados, alguém tem que inserir os dados.

Se a equipe receber credenciais exclusivas (ou melhor, pares de chaves privadas / públicas), podemos garantir que são de fato os dados de entrada individuais específicos. No entanto, eles poderiam ser coagidos a inserir dados incorretos, por exemplo, a quantidade de trabalho realizado? Será que parte de sua produtividade não pode ser registrada no sistema? Embora seja possível otimizar o processo para ser o mais transparente e infalível possível, em última análise, o processo depende da entrada de dados e as várias partes interessadas que inserem os dados são consideradas partes confiáveis, cujos relatórios corretos dos objetivos gerais do sistema dependem.

A equipe é confiável? Seus gerentes são confiáveis? A política da empresa é confiável? Nesses casos, novos tipos de trabalhos de auditoria / verificação física estão sendo criados. Podemos não ser capazes de confiar na própria empresa, mas talvez um auditor independente terceirizado também seja confiável. Como podemos ver, essas tecnologias inovadoras estão mudando o local de trabalho e os modos de operação e, potencialmente, eliminando alguns tipos de empregos, mas também criam novos.

Não se trata apenas da tecnologia e dos empregos afetados. A introdução dessas tecnologias emergentes levanta dilemas éticos (além daqueles de automação de empregos). Um desses clichês é: o que um veículo automatizado deveria fazer caso acabasse em uma situação em que não tivesse outra saída a não ser atingir uma de duas pessoas, qual deveria escolher? Quando os veículos automatizados se tornam onipresentes, podemos ter mais envolvimento nesta decisão do que gostaríamos. Nossos veículos automatizados aprenderão algumas de suas habilidades ou padrões de direção com base em como às vezes podemos dirigir manualmente? Eles aprenderão como os outros motoristas da região dirigem e / ou como os pedestres interagem nessas situações para desenvolver uma estratégia caso esse cenário se torne realidade? Ou o carro vai exigir atenção imediata do motorista para tomar uma decisão e / ou pedir a cada passageiro para votar na estratégia que deve seguir? Em caso afirmativo, em tal cenário ou em cenários completamente diferentes, estaremos equipados para tomar essas decisões difíceis?

Na verdade, muita conversa e política em torno das estruturas éticas de IA receberam ampla cobertura nos últimos anos. Mas, realmente, não se trata de IA, e as discussões não devem ser focadas em estruturas éticas de IA (apenas). Pode ser mais sobre automação (que pode ser habilitada para AI ou não). E esse debate ético e considerações não devem ser focados na automação nem no software. Mesmo assim, devemos nos concentrar nas principais questões éticas que são independentes da tecnologia.

Outro clichê aqui é: devemos permitir que a IA decida quem tem direito a uma apólice de seguro e / ou conta bancária, dependendo da demografia e dos dados históricos para aqueles com características semelhantes? Bem, o fato de que essa decisão pode ser tomada por um software habilitado para IA é irrelevante. A questão que permanece é se a demografia é um critério ético de inclusão / exclusão. Essa decisão seria diferente se fosse tomada por um humano? Claro que não.

Dito isso, é prática comum que tais decisões sejam baseadas no apetite de risco e na discrição da própria instituição para decidir se embarca ou presta um serviço a um cliente. Como isso é diferente? Portanto, é importante que, como sociedade, nos concentremos menos na tecnologia emergente específica e mais nas políticas, questões éticas e regulatórias que sustentam tais questões. A menos, claro, que a própria tecnologia apresente riscos diretos. Uma vez que a política, a regulamentação e as diretrizes éticas estejam claras, é importante que elas sejam seguidas (sejam implementadas manualmente ou por meio de tecnologia).

Talvez, a única consideração ética específica da tecnologia de IA em que devemos pensar é como devemos lidar com IA senciente. Você pode se preocupar com a IA dominar o mundo. No entanto, avanços em direção a tal realidade não foram feitos. Existem duas generalizações de IA. Artificial General Intelligence (AGI), capaz de fazer “qualquer coisa” — o tipo de IA retratado em filmes. E Artificial Narrow Intelligence (ANI), capaz de fazer / aprender uma tarefa muito bem — o tipo de IA que podemos implementar hoje. Embora não pareça que a AGI esteja perto (embora possa muito bem ser que uma única descoberta possa trazê-la), talvez a única consideração ética específica da IA ​​que deveríamos promover é: se você conseguir descobrir como implementar o AGI, você deve evitar implantá-lo até que a sociedade e o mundo tenham descoberto a melhor forma de regulá-lo.

A computação quântica, por outro lado, uma vez desenvolvida, pode representar riscos à segurança cibernética. Nossa infraestrutura de Internet existente, e acima de tudo, realmente, toda a infraestrutura moderna depende da criptografia – um mecanismo que garante que a comunicação segura possa ocorrer e os dados secretos não possam ser vistos por olhos curiosos. Isso é conseguido usando algoritmos que garantem que é impossível (ou melhor, inviável) quebrar tais sistemas. Isso só é impossível porque seriam necessários bilhões a trilhões de anos para realizar tal ataque.

No entanto, isso ocorre apenas porque nossos computadores são tão rápidos. Se amanhã um computador quântico fosse disponibilizado com velocidades muito (exponencialmente) maiores do que as que temos hoje, alguns aspectos de nossa infraestrutura e sistemas de Internet podem ser suscetíveis a ataques que não levariam bilhões a trilhões de anos, mas poderiam levar minutos para horas para atacar. Portanto, é importante que como sociedade e como mundo, assim como os tratados foram celebrados para o desenvolvimento de armas nucleares, que acordos semelhantes sejam firmados de forma a garantir que, quando tal poder computacional for disponibilizado, não será abusado por nenhuma nação. Então, novamente, nós já deveríamos ter esses acordos de guerra cibernética em vigor?

Quer você esteja desenvolvendo, interagindo direta ou indiretamente com essa tecnologia emergente ou mesmo se você estiver completamente desconectado dessa tecnologia, é claro que ela está mudando e mudará nossa sociedade e o mundo substancialmente. Portanto, é pertinente que nosso sistema educacional prepare nossas novas gerações para este novo mundo emocionante. Capaz de não apenas trabalhar dentro de uma disciplina específica, mas capaz de ser capaz de apreciar várias disciplinas e perspectivas que se sobrepõem de muitas maneiras, e capaz de pensar criticamente com uma base sólida de princípios que é capaz de fazer nossa espécie avançar tanto tecnologicamente quanto lutar eticamente pelo bem comum.