Plataforma utilizou GPT-3 para dar apoio à saúde mental – sem consentimento!
Veja como essa informação foi divulgada.
O ocorrido se deu no Koko, um aplicativo que serve para as pessoas buscarem ou oferecerem apoio emocional. Porém, para fazer isso, ele utilizou uma inteligência artificial, o GPT-3, em cerca de 4.000 participantes, sem informá-los em momento algum sobre essa utilização, e apenas agora foi divulgado que o serviço do aplicativo era oferecido por um robô.
Essa revelação foi feita por Rob Morris, cofundador da empresa da plataforma, no Twitter, em uma thread em que aparentava estar muito contente com o teste. Porém, esse caso foi considerado uma situação antiética e foi altamente criticada. A seguir, estão mais informações sobre essa plataforma que utilizou GPT-3.
Como tudo isso aconteceu
Segundo Morris, cerca de 30.000 mensagens foram usadas com o GPT-3, uma tecnologia base do ChatGPT, e uma equipe formada por diversas pessoas (sem que elas soubessem) foi utilizada para que elas servissem como “copilotos” da inteligência artificial nesse processo. Entretanto, mesmo com “copilotos”, esse teste acabou violando as exigências do Departamento de Saúde dos Estados Unidos. Ainda assim, Morris ficou feliz com os resultados obtidos no teste, então se sentiu obrigado a informar aos demais participantes sobre o que estava acontecendo.
LEIA MAIS:
- 5 maneiras de ter sua motivação de volta diariamente
- As regras do amor: Veja três passos para um relacionamento melhor
Isso fez com que Rob Morris recebesse uma enxurrada de críticas na thread do Twitter em que ele divulgava o teste no Koko. Acredita-se que isso aconteceu principalmente porque o Koko é uma plataforma na qual as pessoas vão em busca de um “ombro amigo”, ou seja, o apoio de usuários humanos, para que elas possam ter um contato mais pessoal e empático.
O que havia nos comentários da publicação?
Entre todos os comentários, estavam várias mensagens que apontavam que essa prática acontecia sem o consentimento dos participantes, sendo considerado algo antiético. Além disso, também havia relatos de pessoas que trabalham com pesquisas na área de saúde e que julgavam o ato. Em uma das respostas, um usuário divulgou a página do Departamento de Saúde dos Estados Unidos na qual está o FAQ sobre consentimento em pesquisas relacionadas à saúde.
Então, em sua defesa, o cofundador do app explicou tratar-se de testes internos sem divulgação ao público.
Caso tenha gostado dessas informações e queira ver muitas outras como essas, navegue pelo site do Rotas de Viagem!