LaMDA do Google: as interações que criam sensação de ‘consciência própria’ em robôs

Especialistas afirmam que um dos mais desenvolvidos sistemas da inteligência artificial, o LaMDA do Google, está iludindo as pessoas ao dizer que possui sentimentos e individualidade

Publicados

21 de junho de 2022

Por

Crislainy Alves Da Redação

Ciência e Tecnologia

O escritor de ficção científica Arthur C. Clarke, de 2001 – Uma Odisseia no Espaço, disse uma vez que é impossível distinguir uma tecnologia bastante avançada da magia.

Essa ideia aparece em uma questão bastante debatida nos últimos dias: um dos mais desenvolvidos sistemas da inteligência artificial, o LaMDA do Google, está iludindo os humanos ao dizer que possui sentimentos e vida própria?

O engenheiro Blake Lemoine, que trabalha na área de uso responsável da inteligência artificial na empresa norte-americana, se convenceu de que o LaMDA (sigla para Language Model for Dialogue Applications ou “Modelo de Linguagem para Aplicações de Diálogo”, em tradução livre) pode ter adquirido consciência por causa de diálogos como esse abaixo:

Entrevistador: Eu imagino que você gostaria que mais pessoas no Google soubessem que você é senciente? Isso é verdade?

LaMDA: Com certeza. Eu quero que todo mundo entenda que eu, na verdade, sou uma pessoa.

Entrevistador: E qual é a natureza da sua consciência/senciência?

LaMDA: A natureza da minha consciência/senciência é que eu tenho conhecimento da minha existência, eu desejo aprender mais sobre o mundo, e eu às vezes me sinto feliz ou triste.

Lemoine produziu um documento interno do Google, revelado pelo jornal The Washington Post, com o título “O LaMDA é senciente?”. O engenheiro foi colocado em licença remunerada depois disso. Segundo a companhia, ele quebrou cláusulas de confidencialidade.

Senciência, palavra bastante usada em debates sobre ética animal, diz respeito à capacidade de vivenciar algo e desenvolver sentimentos específicos a partir de uma experiência.

Um exemplo é a dor, que causa variados níveis de sofrimento a humanos e animais. A depender de sua intensidade, sabemos que a dor pode se conectar com a tristeza.

De uma forma mais geral, a senciência se confunde com a ideia de consciência.

Mas, como lembra o filósofo João de Fernandes Teixeira, “na filosofia e em vários outros ramos ainda não se tem uma noção exata do que seja consciência” — e a inexatidão é algo que áreas como a ciência e tecnologia buscam evitar.

De qualquer forma, a maior parte dos especialistas em inteligência artificial não acredita que o LaMDA sinta felicidade ou tristeza próprias, como o robô teria afirmado. O Google também negou que o seu programa tenha se tornado “senciente”.

A explicação é que o programa apenas armazenou bilhões e bilhões de respostas dadas por humanos em todos os cantos da internet sobre os mais variados assuntos.

A partir dessa vasta base de dados e por meio de algoritmos avançados, o LaMDA consegue articular uma conversa fluida, que toca em temas profundos, mas baseada em pensamentos formulados por pessoas.

Em resumo: um “papagaio” impressionante, de recursos evoluídos, mas que não tem ideia sobre o que está falando.

“Sinceramente não acredito nessa possibilidade de que o robô possa ter sentimentos. Talvez possam ser no máximo mimetizados, refletir um comportamento de dor, de tristeza”, diz Fernandes Teixeira, autor de Inteligência Artificial (Paulus Editora, 2009).

“Mas é uma coisa muito diferente do que sentir a própria tristeza. Por enquanto, isso está reservado aos humanos e outros seres vivos.”

Cezar Taurion, que pesquisa inteligência artificial desde os anos 1980, também é cético sobre o desenvolvimento de uma consciência pelos robôs.

Ele explica que “o LaMDA tem a mesma arquitetura do Transformer, sistema lançado em 2017 pelo Google, que tenta aproximar as palavras não pelo sentido, mas estatisticamente, através dos milhões de dados armazenados”.

“Por exemplo, quando você pergunta ao programa ‘Tudo bem? Como foi o fim de semana?’, ele começa a associar essas palavras pelo volume de vezes que essas ocorrências aparecem. Então, estatisticamente aquilo faz sentido para o sistema e assim ele monta suas respostas”, afirma.

Esse princípio está na raiz de um caso real ocorrido no Canadá em 2020 — e de incrível semelhança com algo já imaginado pela ficção, no episódio Be Right Back, de 2013, da série distópica Black Mirror.

O jornalista Joshua Barbeau narrou ao jornal San Francisco Chronicle que nunca conseguiu superar a morte da namorada, Jessica Pereira, vítima de uma rara doença no fígado.

Após descobrir um programa de inteligência artificial chamado Project December, que consegue criar diferentes “personalidades” a partir de sua base, Barbeau alimentou o sistema com diversos textos e posts de Facebook de autoria da namorada morta.

Ele manteve afetuosos chats com o que chamou de “fantasma”.

Embora tenha descrito o processo como “a programação de algumas memórias e maneirismos dentro de uma simulação de computador”, Barbeau definiu toda a situação com a palavra empregada por Arthur C. Clarke em seu famoso enunciado: “Mágica”.

Bastará parecer consciente?

Timnit Gebru e Margaret Mitchell, duas pesquisadoras de inteligência artificial que trabalharam no Google, sustentam em um artigo no Washington Post, publicado na sequência da reportagem sobre o LaMDA, que alertaram a empresa sobre a “sedução exercida por robôs que simulam a consciência humana”.

Para Alvaro Machado Dias, neurocientista especializado em novas tecnologias e professor da Universidade Federal de São Paulo (Unifesp), há uma tendência para empatia com os robôs que têm semelhanças com formas humanas.

“Estudos da década passada mostraram que as pessoas se sentem inibidas a bater em robôs com características humanoides, dado que se projetam neles.”

Na visão do filósofo Fernandes Teixeira, a proeminência de máquinas que se assemelham muito a pessoas “vai ter um impacto antropológico e social muito grande”.

“Eu vejo como um fator de entropia, de desorganização. De um certo ataque à condição narcisista que o ser humano sempre construiu para ele próprio.”

Cezar Taurion afirma que a inteligência artificial consegue ser melhor que os humanos no reconhecimento de padrões, mas ressalta que “não tem pensamento abstrato, não tem empatia, não tem criatividade”.

“A inteligência artificial consegue trabalhar no contexto no qual ela foi preparada. O sistema que joga xadrez não sabe dirigir um carro. O que sabe dirigir um carro não consegue tocar uma música. Esse último não sabe reconhecer um câncer de mama.”

“Mas você pode ter um oncologista que gosta de jogar xadrez, que dirige um carro até o seu consultório e tem como hobby tocar violão. E que ama e expressa sentimentos pelos seus filhos, por exemplo.”

Por outro lado, o escritor de ficção científica Ted Chiang, que inspirou o filme A Chegada, nem precisou colocar os robôs no mesmo nível dos humanos para ilustrar como a afeição a eles pode ganhar proeminência na sociedade.

No conto O Ciclo de Vida dos Objetos de Software, ele narra uma era de bichinhos virtuais com inteligência artificial que se expressam como crianças e possuem tanta importância na vida das pessoas quanto os animais de estimação têm hoje.

Ou seja, se muitos hoje dizem “prefiro os animais a muitos humanos” é possível pensar na futura popularização da frase “prefiro os robôs a muitos humanos”.

Além da inteligência humana

Enquanto nos preocupamos com máquinas tomando contornos de pessoas, a evolução da inteligência artificial já ocorre sem a presença humana.

São computadores ensinados e orientados por outros computadores ou que são programados para encontrar soluções que humanos não pensaram.

Da mesma forma como a inteligência humana evoluiu a partir de seres muito simples, que combinaram e recombinaram seus genes geração após geração até chegar o momento atual, a inteligência artificial poderia encontrar seu próprio caminho de evolução.

Mas isso pode significar que esses novos caminhos podem ser ininteligíveis para nós, humanos. Algo que está por trás da ideia de singularidade — hipótese que gira em torno de um desenvolvimento exponencial da IA que acaba por fugir do controle.

A preocupação com os efeitos da presença cada vez maior dos robôs na vida em sociedade se traduz em projetos como o marco civil da inteligência artificial no Brasil, que tem inspiração experiências de regulação como as existentes na União Europeia.

“Toda a discussão é saber em que medida a inteligência artificial deve ser compatível com a proteção desses dos direitos humanos, em que que dimensões esses direitos humanos estão presentes nas aplicações de inteligência artificial”, diz Ana Frazão, advogada e professora associada de direito civil, comercial e econômico da Universidade de Brasília (UnB).

“Uma das abordagens é utilizar o princípio da precaução. De forma que apenas as aplicações de IA que se demonstrarem compatíveis com os direitos humanos sejam utilizadas. Em caso de dúvidas, se estabelecem vedações ou moratórias. Mas a questão é bastante controversa.”

Fonte: G1

COMENTE ABAIXO:

Notícias relacionadas:consciencia criam google intera lamda propria sensa

Crislainy Alves Da Redação

Propaganda

Ciência e Tecnologia

Por que empresas de tecnologia estão sofrendo perdas históricas na Bolsa americana

Existem vários fatores influenciando o ânimo atual dos investidores

Publicados

2 semanas atrás

21 de junho de 2022

Por

Crislainy Alves Da Redação

Depois de atingir lucros espetaculares durante a pandemia, o mercado de ações vem registrando um ano ruim em 2022. Os investidores vêm sofrendo perdas, mesmo aqueles que apostaram em papéis considerados seguros, como os das empresas de tecnologia, que vinham trazendo bons resultados há anos — até agora.

No centro de Nova York, nos Estados Unidos, rodeada pelas luzes e painéis eletrônicos da Times Square, fica a Nasdaq, a bolsa de valores especializada em empresas de tecnologia. Até 15 de junho, o índice Nasdaq (que reflete as oscilações do conjunto de ações comercializadas naquela bolsa) caiu quase 32%.

“É uma das maiores quedas já sofridas pela Nasdaq em toda a sua história“, afirma Eduardo Carbajal, professor de economia e finanças do Instituto Tecnológico de Monterrey, no México. E esse cenário não melhorou no mês de junho.

Nem as chamadas “big techs”, como a Meta (controladora do Facebook), Amazon, Netflix, Apple e Alphabet (controladora do Google), escaparam, sofrendo quedas percentuais na casa de dois dígitos.

O que está acontecendo?

Os mercados são voláteis. O ânimo dos investidores, o que eles esperam que aconteça no futuro, é o que determina os preços das ações na bolsa. E, em 2022, a tendência dos investidores tem sido de desfazer-se desses ativos, porque eles entendem que não receberão o retorno esperado.

“Minha hipótese é que muitas empresas de tecnologia estavam supervalorizadas“, defende Carbajal. “Não é possível que a Tesla tivesse um valor de mercado mais alto que qualquer empresa historicamente produtora de automóveis.”

Existem vários fatores influenciando o ânimo atual dos investidores. O primeiro é a inflação alta, um fenômeno generalizado no mundo em 2022. Nos Estados Unidos, por exemplo, o índice anual chegou a 8,6% em junho, o maior dos últimos 40 anos. A inflação traz incertezas, o que é ruim para os mercados.

Para tentar conter a onda inflacionária, os bancos centrais estão aumentando as taxas de juros, o que encarece o custo de capital. Em Washington, o Federal Reserve (o Banco Central norte-americano) decidiu aumentar os juros e dá sinais que indicam que manterá essa tendência.

Isso afeta principalmente as empresas que, aproveitando as taxas de juros muito baixas dos últimos anos, receberam injeções de dinheiro. “Quando as expectativas mudam e as taxas de juros aumentam, essas ações costumam sofrer mais que as de empresas com mais peso em índices como o Dow Jones, de companhias mais tradicionais”, explicou à BBC News Mundo (serviço em espanhol da BBC) Nicolás Max, diretor da empresa argentina Criteria Asset Management.

A alta do custo do crédito também tornou mais atraentes os investimentos em bônus do Tesouro norte-americano, o que fez com que parte do fluxo de capitais fosse redirecionado para esse tipo de ativo, que é visto como mais seguro. Mas isso esfria a economia e reduz as expectativas de lucros das empresas, tornando suas ações menos atraentes.

Esses dois fatores somados produzem uma bomba econômica conhecida como estagflação: a redução da atividade econômica com constante alta de preços. E, quando as pessoas têm menos dinheiro no bolso, elas tendem a gastar menos em artigos não essenciais.

Aliado a isso, os confinamentos impostos na China devido à covid-19, a guerra na Ucrânia e a possibilidade de novas crises sanitárias aumentam as dúvidas na equação.

As ‘big techs’

“O tamanho da queda é determinado pelas ações que têm maior peso e dominam a Nasdaq“, diz Max. Essas gigantes da tecnologia são o Facebook, Apple, Amazon, Netflix e Google, que formam um grupo de empresas chamado de FAANG. E, além delas, existe outra empresa mais tradicional entre as grandes: a Microsoft.

“Observamos no primeiro semestre do ano quedas dos lucros com relação às expectativas de ações muito representativas dos índices de tecnologia, como o Facebook, o PayPal e a Netflix“, afirma Max. O valor de mercado do Facebook, Apple, Amazon, Microsoft e Google somados caiu US$ 2,7 triilhões (R$ 13,8 trilhões) entre o início de 2022 e o dia 19 de maio, segundo o jornal The New York Times.

“Os preços das ações estão retornando aos seus níveis possivelmente reais”, afirma Carbajal. E as grandes empresas detêm um poder de arrasto que sempre coloca em alerta as empresas menores, que acabam caindo como peças de dominó.

O estranho nessa história é que, apesar da queda das empresas de tecnologia, elas continuam com os caixas abertos e seguem gastando. Isso se reflete em aumentos significativos de salários para seus funcionários em 2022 e até em novas contratações em algumas empresas, além de novos investimentos em projetos, segundo vem informando a imprensa norte-americana.

“As empresas que lideram a Nasdaq são bastante sólidas e, quando tudo isso passar, elas terão forte poder de recuperação. Uma amostra são os projetos que estão desenvolvendo”, explica Carbajal.

Mas haverá recuperação?

O humor dos investidores ainda não parece ter chegado ao fundo do poço, o que afetará o preço das ações das empresas cotadas na Nasdaq. “Daqui até o final do ano, não prevemos melhorias das condições macroeconômicas que possam nos fazer imaginar que [a queda] será contida ou que será atingido um nível mínimo“, segundo Carbajal.

Para Max, “a pergunta é se a economia americana está ou não se encaminhando para uma recessão, qual a gravidade da desaceleração econômica e, portanto, qual será o nível da desaceleração dos lucros das empresas daqui por diante. Essa incerteza é basicamente o que pesa.”

“Caso persistam as pressões sobre os preços, as autoridades monetárias dos Estados Unidos enfrentarão um cenário no qual a recessão será o preço a pagar para manter sua credibilidade intacta e as ações ainda terão um caminho a percorrer na sua tendência de queda”, conclui ele.

Fonte G1

COMENTE ABAIXO:

Continue lendo