Neurodireitos: a necessária proteção da mente humana em tempos de avanço de neurotecnologias e da IA

Imagine uma escola primária na qual as crianças usam fones de ouvido com sensores que medem seu nível de atenção. Os dados neurais gerados por essa tecnologia são armazenados pela escola e compartilhados com pais e professores.

Esse cenário de ficção científica foi testado há alguns anos na China e levantou debates éticos acerca do monitoramento sem consentimento da criança. O exemplo é trazido por Rafael Yuste, neurocientista da Columbia University e um dos fundadores do Neurorights Foundation, em seus estudos sobre o tema.

Engana-se quem pensa que nanotecnologias podem apenas ser consideradas como chips de implantes cerebrais. Nanotecnologias podem ser consideradas como qualquer tecnologia que traga uma interface cérebro-computador e podem ser invasivas ou não invasivas.

Atualmente, uma série de dispositivos em fase de testes já trazem a possibilidade de auxiliar as pessoas a partir da interface cérebro-computador. Há pelo menos 10 anos o mercado de neurotecnologias já é voltado para auxiliar pessoas com deficiência auditiva, se movimentar e até mesmo atenuar os efeitos do Parkinson.

No entanto, na medida em que o mercado de neurotecnologias cresce para atingir um amplo espectro, não só voltado para a saúde, mas também para entretenimento, como é o caso dos neurogames, em que o estímulo do jogo é modulado a partir de comandos neurais, e especialmente dentro de um mercado gigantesco, de aproximadamente 2,5 bilhões de dólares e de alta adesão pela a Gen Z, aumenta a preocupação com a privacidade dos usuários e sobre eventuais direitos concedidos nessa decodificação dos estímulos neurais e potencial influência nas escolhas dos usuários dentro do jogo.

Atrelado a isso, estamos acompanhando, a partir da democratização do CHAT GPT o quanto a IA poderá influenciar definitivamente no nosso comportamento, formas de agir, pensar, trabalhar.

O desenvolvimento das técnicas de IA e do processamento de linguagem natural pode vir a permitir, de forma cada vez mais rápida, a construção de modelos preditivos da atividade cerebral humana e decodificação do nosso pensamento.

É importante destacar então que, para falarmos sobre a proteção da mente em tempos de neurotecnologia, precisamos olhar além e lembrar que as tecnologias não são neutras e nem podem mais ser consideradas meras ferramentas. Hoje, elas são verdadeiras forças que influenciam e moldam a forma como vivemos, seja como indivíduos ou enquanto sociedade.

As neurotecnologias interagem diretamente no cérebro humano e o termo abarca um grande espectro de métodos, sistemas e instrumentos que trazem conexão direta com o cérebro, cujas atividades possam ser registradas e influenciadas. 

À medida que essas técnicas podem ajudar a prevenir e curar doenças ligadas ao cérebro, elas podem igualmente manipular e modificar nosso comportamento, nossas emoções, nossa percepção e nossas decisões.

Seria, portanto, o neurodireito o caminho para garantir a liberdade da mente nesse contexto? 

Contextualmente, os neurodireitos avançaram a partir de novas disciplinas e subdisciplinas e do entrelaçamento com o campo de investigação da neuroética. A neuroética guarda sua relação com “o exame do é certo e errado, bom e ruim no tratamento, perfeição ou invasão indesejada e manipulação preocupante do cérebro humano”[2].

Os Neurodireitos são, em linhas gerais, definidos como “os princípios éticos, legais, sociais ou naturais de liberdade ou titularidade relacionados ao domínio cerebral e mental de uma pessoa; isto é, as regras normativas fundamentais para a proteção e preservação do cérebro e da mente humana”[5].

O termo foi cunhado por Sherrod Taylor, no início da década de 1990, em Neuropsychology and Neurolawyers.  O autor analisa a colaboração, no sistema de justiça norte-americano, de neuropsicólogos e advogados, nos litígios relacionados a acidentes e lesões cerebrais.

Rafael Yuste trata de Novos Direitos Humanos para a Era da Neurotecnologia.  A partir da Neurorights Foundation busca “promover a inovação, proteger os direitos humanos e garantir o desenvolvimento ético da neurotecnologia”.

Yuste, em sua proposta, elenca cinco neurodireitos, cuja preservação se faz necessária com o advento das neurotecnologias:

  • O direito à identidade ou a capacidade de controlar tanto a integridade física quanto mental;
  • O direito de agência ou de livre pensamento e livre-arbítrio para escolher suas próprias ações;
  • O direito à privacidade mental ou à capacidade de manter os pensamentos protegidos contra qualquer tipo de divulgação
  • O direito à capacidade de garantir benefícios e melhorias sensoriais. de forma equânime, a toda a população, a fim de evitar novos abismos sociais
  • O direito à proteção contra vieses algorítmicos ou à capacidade de garantir que as tecnologias não insiram preconceitos.

Alinhado a essa perspectiva, a Organização para a Cooperação e Desenvolvimento Econômico (OCDE), em dezembro de 2019, traçou nove princípios globais sobre as recomendações a respeito das inovações, de forma responsável, em neurotecnologia.

São eles:

  • Promover a inovação responsável;
  • Priorizar a avaliação de segurança;
  • Promover a inclusão;
  • Promover a colaboração científica;
  • Permitir a deliberação social;
  • Habilitar a capacidade de supervisão e órgãos consultivos;
  • Proteger dados cerebrais pessoais e outras informações;
  • Promover culturas de administração e confiança nos setores público e privado;
  • Antecipar e monitorar o uso não intencional e/ou uso indevido potencial.

Poderíamos até pensar que muitos desses direitos já podem estar contemplados em nosso sistema constitucional e infraconstitucional vigente, a partir de uma interpretação mais ampla.

Contudo, a proposta de trazer novos guias éticos funda-se no fato de que, anteriormente, algumas questões não foram necessárias em outras tecnologias: a privacidade mental e a agência humana.

Os cenários e a aplicação que, em algum momento da nossa existência, foram restritos à ficção científica, já estão diante de nós. Talvez, considerar que nossos direitos já estejam protegidos, não venha a considerar os novos cenários que teremos, a partir de um avanço e uso cada vez mais frequente das neurotecnologias.

A inovação tecnológica, seja ela incremental e disruptiva, faz parte da essência da humanidade, porém, embora seja inerente à nossa sobrevivência, também pode trazer consequências indesejáveis e não previstas.

Novos guias éticos poderão, portanto, direcionar as pesquisas, a aplicação e o “design” de tecnologias para gerenciar efeitos positivos e negativos. Em todo debate de regulação, e governança, há também outro porém: regulações muito rígidas ou feitas de forma precoce podem retirar o oxigênio necessário ao processo de inovação, mas deixar para depois pode ser tarde demais.

Assim, a OCDE traz a recomendação de “inovação responsável” em seu documento principiológico, para indicar uma possibilidade de norteador para o avanço da governança de novas tecnologias.

A nossa provocação final, portanto, se coloca a partir de como o Direito caminhará para a proteção das novas controvérsias que emergirão nesses novos contextos, uma vez que diversas questões filosóficas, éticas e normativas precisarão ser refletidas e enfrentadas nos anos que se aproximam.

Trechos deste artigo foram extraídos do texto original publicado por Sílvia Piva, no Conjur.

VOCÊ TAMBÉM PODE GOSTAR DE:

Rolar para cima