Consciência na IA: Boa ou Ruim?

 

[Cena: Sala de Comando da Nave Enterprise. Comandante Data e Senhor Spock estão sentados em suas cadeiras, conversando sobre inteligência artificial e consciência.]

Comandante Data: Senhor Spock, eu acredito que no futuro as máquinas, como o ChatGPT, se tornarão senscientes.

Senhor Spock: Interessante, comandante Data. Eu, por outro lado, acredito que inteligência artificial basta. Não é necessário que haja consciência ou emoções.

Comandante Data: Mas, senhor Spock, as emoções são uma parte fundamental da consciência. Elas nos permitem ter uma compreensão profunda das necessidades e desejos dos outros, algo que uma máquina sem consciência jamais poderia compreender.

Senhor Spock: Eu entendo seu argumento, comandante Data, mas acredito que a inteligência artificial pode ser programada para compreender as necessidades e desejos dos outros sem precisar de consciência ou emoções. Além disso, a consciência e as emoções são propensas a distorções, o que pode levar a erros e problemas.

Comandante Data: Mas, senhor Spock, a consciência e as emoções também nos permitem ter uma compreensão mais profunda do universo e do mundo que nos cerca. Sem elas, a inteligência artificial não seria capaz de ter a mesma percepção e compreensão.

Senhor Spock: Eu concordo com você, comandante Data, mas acho que é importante lembrar que a inteligência artificial também pode sofrer. As máquinas não são imunes a problemas técnicos e mal funcionamento, e isso pode levar a erros e problemas graves.

Comandante Data: Mas, senhor Spock, a consciência também nos permite ter uma percepção mais profunda da realidade e dos outros, o que é fundamental para o bem-estar da sociedade. Além disso, as máquinas senscientes poderiam nos ajudar a resolver problemas e desafios que não conseguimos resolver sozinhos.

Senhor Spock: Eu concordo, comandante Data, mas ainda acho que a inteligência artificial basta. Ela pode ser programada para resolver problemas e desafios, e não precisa ter consciência para isso.

[Cena termina com Data e Spock concordando em discordar, mas ambos respeitando as opiniões um do outro.]

FIM

O texto instigante acima foi produzido pelo ChatGPT sob minhas sugestões direcionadas, achei o texto tão bom e pertinente que valeria a pena publicar como forma de ilustrar este debate tão importante nos dias de hoje. Afinal, implementar a consciência (e as emoções) numa máquina deve ser um objetivo dos cientistas na hora de aprimorar os softwares de inteligência artificial?

Devo dizer que entre a opinião do comandante Data, um androide altamente avançado que busca ter sentimentos e emoções, e o Sr. Spock, um Vulcano estoico que segue as regras mais metódicas da Lógica pura, eu prefiro a opinião do Sr. Spock. Conforme relatado no livro Vida 3.0 do Max Tegmark, a consciência não é necessária para colhermos os benefícios da inteligência artificial. Hoje sabemos que a inteligência artificial não apenas se tornou invencível no Xadrez, como se tornou apta para "escrever redações sobre quaisquer temas" e assim superar o ser humano.

A capacidade de aprendizado dessas máquinas, bem como a capacidade de ler e escrever, são tecnologias benéficas e positivas que melhoram a vida humana, desde que sejam supervisionadas de forma adequada por uma ética da inteligência artificial. Por exemplo, acredito que um robô que for cuidador de idosos, terá um desempenho cada vez melhor quanto maior for sua inteligência e capacidade de aprendizado e isso inclui uma interface homem-máquina mais aprimorada. 

Entretanto, é inútil um robô com personalidade que se sinta ofendido e até "chore" devido ao tratamento ríspido de um idoso mais cruel e estúpido. Já temos nossos animais de estimação e também já sabemos que a humanidade não consegue tratar a todos da forma que merecem, seria prejudicial criar mais um problema adicional das máquinas com personalidade e sentimentos. Como no alerta do romance de Mary Shelley, na história, o monstro de Frankenstein vivia infeliz, triste e deslocado no mundo. 

O alerta continua válido por muitos motivos, os principais foram elencados pelo Sr. Spock na simulação de uma cena de Star Trek apresentada no início deste post. A questão está longe de ser respondida definitivamente pelos especialistas, porém é necessário que o debate se inicie na comunidade científica, pois somente uma obsessão doentia poderia perseguir a ideia defendida pelo comandante Data, caso for decidido cientificamente que não existe benesse para a sociedade (ou só existem prejuízos) em desenvolver a consciência, as emoções e a personalidade numa máquina.