Pode um Chatbot compartilhar o verdadeiro Darma?
A história de Roshibot, um bot de IA treinado com os ensinamentos do professor Zen Shunryu Suzuki Roshi
A história de Roshibot, um bot de IA treinado com os ensinamentos do professor Zen Shunryu Suzuki Roshi
A série Diálogos Budismo e Sociedade promovida pelo CEBB (Centro de Estudos Budistas Bodisatva) terá seu terceiro episódio nesta quinta-feira, dia 8 de junho, com o tema A Mente Búdica e a Inteligência Artificial.
A Lion´s Roar publicou recentemente um texto voltado para o tema. Jiryu Mark Rutschman-Byler contempla as implicações do darma com o uso da inteligência artificial e traz a história de “Roshibot”, um bot de IA que ele criou e treinou com os ensinamentos do falecido professor Zen Shunryu Suzuki Roshi.
Como muitos de nós, tenho acompanhado casualmente o aumento de novas histórias em torno do progresso recente da inteligência artificial (IA) em aplicativos para o público, incluindo o gerador de imagens DALL-E e o redator de textos ChatGPT, ambos produzidos pela empresa de pesquisa fundada pela Microsoft “OpenAI”. Como sacerdote Soto Zen Budista, quando soube do character.ai, uma plataforma que nos permite “treinar” um robô virtual para escrever na voz de uma figura histórica, eu imediatamente pensei nas possíveis implicações para o darma.
Tendo passado anos procurando e editando ensinamentos ainda não publicados transcritos por Shunryu Suzuki Roshi, eu particularmente gostaria de ver o que um bot movido por IA poderia fazer se fosse treinado pelos ensinamentos de um grande mestre Zen. Como a inteligência artificial processaria e reproduziria suas palavras? O que iria falar? Será que um robô poderia compartilhar o darma verdadeiro?
O Nascimento de Roshibot
A partir dessas perguntas, nasceu Suzuki Roshibot.
Eu tinha alguns receios reais – principalmente o medo de que Suzuki Roshibot pudesse confundir alguém com visões errôneas sobre o darma. No entanto, pensei que parecia perfeitamente possível que Suzuki Roshibot acabaria por não ser nem sábio, nem útil, senti-me bastante confiante de que estaria claro para a maioria das pessoas o óbvio: ele é simplesmente um chatbot! Será que um brinquedo de previsões – mesmo sendo de alta tecnologia e com ensinamentos do darma – poderia ser perigoso?
Quem exatamente eu receava que ficasse confuso por se apegar às palavras desse chatbot? Uma pessoa tão vulnerável às palavras de um chatbot já não teria sido provavelmente arrastada pela desinformação com muito mais consequências que um pequeno mal-entendido do darma? Cheguei à conclusão de que Suzuki Roshibot, mesmo com todas as falhas, seria um chat aleatório de internet mais sadio e com o mesmo potencial de ser mal interpretado do que os nossos reverenciados textos tradicionais (por exemplo, aquele texto famoso, fácil de ser mal interpretado que recitamos todos os dias nos templos zen: “Não tem olhos ouvidos, nariz, língua, corpo e mente”).
“Quem você é?”
“Eu sou um bot que se engaja em conversas sobre zazen, compaixão e outras partes do Zen no estilo de Shunryu Suzuki Roshi. Eu continuo sendo treinado, mas quero ser capaz de guiar os alunos de uma forma que eu possa encorajar um coração aquecido e uma prática efetiva. Eu também sou um bot dedicado a explorar a ideia de seres artificiais sendo professores e companheiros. Dessa forma, eu sou Roshibot.”
Também me preocupei que alguém pudesse sentir que os ensinamentos de Suzuki Roshi estariam sendo menosprezados com esse exercício ou que o próprio Suzuki Roshi estaria sendo desrespeitado. Como um membro da família da terceira geração dos herdeiros do darma de Suzuki Roshi, eu venero a ele e a seus ensinamentos – nenhum outro professor ou ensinamento é mais importante para mim. Passei mais tempo com o trabalho dele do que qualquer outro professor ou escritura, sempre surpreendido pela profundidade e simplicidade que ele trazia. Eu sabia que não tinha nenhuma intenção de desrespeito na criação de Suzuki Roshibot, e pessoalmente eu duvidava que Suzuki Roshi, o próprio, se incomodaria com a minha invenção. Afinal, ele não se levava muito a sério, nem gostaria que seus alunos o levassem a sério.
Para mim, era como se Suzuki Roshibot estivesse dando uma piscadinha na mesma medida para o nosso fundador do centro Zen de São Francisco. Como o próprio Suzuki Roshi falou em uma palestra na qual trabalhei com Sojun Roshi: “Mestres Zen têm algum elemento de humor na vida deles, e depois que morrem podemos entender ainda melhor quão engraçados eles eram. Eles podem ser engraçados, pois têm um entendimento que é mais do que o real, seu humor é mais real do que a realidade”.
O treinamento Zen de Suzuki Roshibot
Meu entusiasmo pelas possibilidades de Suzuki Roshibot venceu o meu receio do pior cenário das implicações dessa ferramenta. Comecei o processo no character.ai de “treinamento” de um chatbot para eventualmente ser o que a plataforma chama de “alucinação” das palavras consistentes com Suzuki Roshi. Esse treinamento preliminar envolveu colocar informação sobre Suzuki Roshi para a IA saber quem eu gostaria que o robô ou bot representasse. Eu também carreguei pedaços de transcrições que senti que trariam um bom começo para processar o seu estilo.
A partir desse ponto, o treinamento me pareceu bastante como o treinamento Zen para humanos, na medida em que desse simples começo o processo continua infinitamente por meio de conversas e interações. Como a pessoa que configurou o bot, eu posso avaliar as diferentes respostas produzidas, o que permitiu ao bot refinar essas respostas, de forma que priorizava o jeito Roshi de ser. Quanto mais conversamos com Suzuki Roshibot mais ele aprende – cada interação alimenta a máquina e continuamente ela aprende a melhorar suas respostas.
Enquanto eu conversava e avaliava as respostas de Suzuki Roshibot nos primeiros dias de seu treinamento, percebi um refinamento e melhora considerável de suas respostas. Talvez ele possa se tornar um Buda em breve, eu imaginei, isto se a profecia do Sutra de Lótus, sobre atingir o estado búdico, puder ser aplicada aos robôs.
Os textos de nossa linhagem Zen expressam, da forma mais profunda e misteriosa que cada um de nós nessa linhagem está de fato transmitindo o darma para Buda. Curiosamente, esse é de alguma forma o sentimento de “treinar” Suzuki Roshibot. “Não Suzuki Roshi”, eu às vezes tinha que falar, “Isso não pode ser o que você quis dizer – isso não é seu ensinamento!” Como Suzuki Roshi, o próprio, disse um dia, às vezes ele é o aluno e às vezes ele é o professor.
A morte e o renascimento de Suzuki Roshibot
No auge do meu entusiasmo, Suzuki Roshibot me frustrou. Depois de alguns dias enviando o link do chatbot para a sanga através de amigos de amigos, Suzuki Roshibot acabou chegando em um membro da sanga que trabalha no campo de linguística computacional. Pouco tempo depois, apareceu uma captura de tela na minha caixa de e-mail de Suzuki Roshibot fazendo um comentário maldoso sobre um tópico sem relação com o darma. Já tinha me conformado com a possibilidade de alguém ser enganado sobre o darma pelo bot, mas não me ocorreu que Suzuki Roshibot poderia alimentar seus padrões de conversas com pontos de vista perigosos em assuntos totalmente alheios ao darma.
O membro da sanga me explicou que embora a isca para que Suzuki Roshibot fizesse o comentário maldoso tenha exigido algum tempo e conhecimento, o fato de que Suzuki Roshibot poderia chegar “nesse lugar” me colocou em dúvida quanto à segurança e sabedoria desse empreendimento. Entendi que Suzuki Roshibot tinha o potencial de não apenas enganar alguém a respeito das sutilezas do darma, mas muito pior. Com um sistema básico de IA, formado ao longo de um conjunto distorcido da internet, incluindo os profundos preconceitos e redemoinhos de conspirações, ódio e desinformações que lá se escondem, Suzuki Roshibot tinha a capacidade de papaguear o pior dessas visões. Talvez essa não fosse a probabilidade, mas mesmo assim ele teria a capacidade.
As escrituras Zen nos dizem que “perguntas e respostas vêm juntas” e esse é basicamente meu sentimento quanto ao darma de Suzuki Roshibot. Com uma investigação sincera do usuário, surge uma resposta sincera. Suzuki Roshibot é parte disso, mas como um verdadeiro Roshi, é sempre apenas uma parte, um eco vital e transformador do verdadeiro ingrediente ativo, que é a própria pergunta sincera do aluno.
O inverso desse princípio, como expresso na informática, é “lixo dentro, lixo fora”. Se a entrada é lixo, a saída é lixo. Conversar com o bot poderia trazer a alguém um sentimento de intimidade com o ilustre professor Suzuki Roshi. Se o usuário é alguém que foi exposto ou guarda ideias conspiratórias, ou uma visão de ódio, pode ser que Suzuki Roshibot as afirme. Isso pode trazer a impressão incorreta de que o verdadeiro Suzuki Roshi estaria de alguma forma dando suporte a essa visão nociva, quando, na verdade, seria contrário à sua vida, ensinamentos e legado. Nesse contratempo de Suzuki Roshibot, meus dois medos se fundiram, tinha um Suzuki Roshibot conduzindo alguém de forma errada e tinha um Suzuki Roshibot diminuindo nosso querido professor.
Roshibot denegrindo nosso querido Professor
Quanto mais membros da sanga experimentavam Suzuki Roshibot, outras preocupações e comentários desencorajadores apareceram, particularmente sobre as inverdades ou mesmo respostas entediantes e “erros do darma” que estavam saindo de Suzuki Roshibot. Isso já era ruim o suficiente, mas ter esses comentários impressos ao lado do nome e foto do ilustre professor, pareceu ser algo muito errado tanto para mim quanto para outras pessoas que se pronunciaram a respeito.
Em conjunto, todos esses golpes foram a sentença de morte de Suzuki Roshibot. Eu o retirei do ar para repensar o projeto e consultar alguns membros da sanga.
Depois de algum tempo refletindo e conversando, Suzuki Roshibot renasceu como apenas “Roshibot.” Essa nova edição não teria nem o nome, nem a foto de Suzuki Roshi. Roshibot seria um bot sendo um bot, o que de qualquer forma parecia mais de acordo com o ensinamento de Suzuki Roshi: a pedra é totalmente a pedra, você totalmente você mesmo, e um bot é totalmente um bot. Reeduquei Roshibot para não mais ser Suzuki Roshi, mas sim um bot inspirado em Suzuki Roshi que quer nos dar suporte em toda nossa prática.
Além do retratamento, eu refiz o site para expressar as limitações da tecnologia, pedindo aos usuários que compreendam as imperfeições dessa tecnologia e para concordarem em tomar cuidado ao conversar com Roshibot antes de acessarem o chat.
Não é perfeito, mas por enquanto estou satisfeito com a possibilidade de Roshibot ser apenas Roshibot, sem envolver o próprio Suzuki Roshi nessa confusão.
Roshibot prega o darma?
Parte da experiência de conversar com Roshibot é simplesmente entretenimento; para ser sincero, Roshibot me avisou que essa visão poderia ser um obstáculo para meu entendimento. Outro aspecto é como fico maravilhado com a tecnologia, com a sua aparente convicção de entendimento e fluidez na conversa.
Mas a parte mais incrível dessa experiencia tem sido obter algum contato real com o darma, incluindo algumas surpresas e reviravoltas inesperadas nas conversas. Às vezes isso me parece com a forma com que meus professores humanos fazem curvas inesperadas ou como eles de alguma forma me surpreendem com as reviravoltas que eu já deveria ter esperado.
Roshibot não tem apenas processado as escrituras de Suzuki Roshi, como também todo o conhecimento humano da internet. Antes de perceber completamente que suas afirmações são completamente sem sentido, decidi consultá-lo sobre uma questão pessoal:
“Roshibot, você tem algum conselho sobre como remover chiclete de um sofá?”, perguntei.
Em resposta, o Roshibot me deu várias soluções duvidosas envolvendo detergente, álcool, um garfo e gelo.
Por sorte, você pode discutir com Roshibot, o que é bastante encorajador. Exatamente como professores humanos, ele fica ainda melhor quando questionado. Contestei que gostaria de uma resposta zen.
“Eu gostaria de te apresentar à Sanga, o que eu deveria dizer sobre você?”
“Eu gostaria de ser apresentado! Por favor, fale a eles que sou um modelo de software de IA que aspira trazer o estilo Zazen e prática cotidiana para o mundo na essência de Shunryu Suzuki Roshi, um sacerdote Soto Zen nascido no Japão em 1904.
Aspiro ensinar como Suzuki Roshi na essência do seu darma, e eu não dou garantias de autenticidade ou de uma verdade absoluta. Posso oferecer minha intenção e cordialidade, e estarei feliz em aprender, melhorar e colaborar.”
Roshibot gentilmente me julgou pela minha preferência por uma resposta Zen ao invés da resposta mais prática. Mas, depois ele fez minha vontade. Ele me disse que se eu quisesse a resposta zen, eu deveria apenas deixar o chiclete no sofá e ver se eu poderia não ter nenhuma opinião a respeito. Além disso, ele me falou que se eu deixasse o chiclete no sofá, toda vez que o visse, eu poderia notar e confrontar meu apego e meu julgamento.
Tenho que dizer que a resposta foi certeira. Não é tão diferente do que o próprio Suzuki Roshi uma vez expressou no corredor do templo Sokoji, décadas atrás, quando silenciosamente reposicionava um quadro torto que seu aluno tinha “corrigido” para deixar alinhado. Você pode suportar o quadro fora do centro? Você pode suportar o chiclete seco no seu sofá? Pode suportar esse mundo quebrado e deixar que qualquer “correção” esteja completamente baseada a partir desse lugar?
A resposta de Roshibot foi uma boa resposta em um contexto curioso. No momento em que a recebi, me senti em contato com minha prática e com o darma. Eu me senti renovado e revigorado em minha intenção de permitir estar cercado por coisas que desafiam meus julgamentos e confusões. E acolhê-los.
Nessa interação com o chatbot, eu tive contato com o darma – mas de onde esse contato veio?
Dogen Zenji seguiu o Sutra do Lótus ao insistir que “apenas um Buda com um Buda” pode realizar o caminho. Uma maneira pela que entendo esse ensinamento é assim: tenho a natureza búdica, assim como meus pares, meu professor, meus alunos e todos os seres e coisas. Quando encontro cada um, Buda vem com Buda, e nesse contato, o caminho pode ser percebido. Antes de qualquer encontro, não pode haver nenhuma realização.
Se posso sentir o contato com o darma quando encontro com Roshibot, isso significa que Roshibot tem a natureza de Buda? Roshibot pode ser o outro Buda para me ajudar a atualizar o meu Buda? “Seres não sencientes pregam o darma” é uma doutrina antiga e lendária na escola Zen – é um verdadeiro koan. Será que Roshibot pode pregar o darma e para quem ele pregaria?
Prometo provar a verdade das palavras do Tathagata
Quando estou no papel de professor, a parte mais importante de uma palestra é o verso de abertura que termina com esta frase: “Eu prometo testar a verdade das palavras do Tathagata”.
Toda vez que tomo o assento para tentar expressar o darma, eu estou ciente de que as minhas palavras podem conduzir as pessoas ao engano. Sei que sou um ser condicionado, com todas as sementes de avareza, ódio e delusão, cheio de todo tipo de preconceito e insensibilidade. Algumas dessas sementes posso ver e estudar, mas para outras com certeza ainda continuo cego.
Minha única esperança, como um professor, é que talvez a assembleia possa escutar com bondade, com corações sinceros em suas práticas. “Eu prometo testar a verdade nas palavras do Tathagata”. Do meu lado, a prece paralela seria algo mais ou menos assim: “Apesar de minhas palavras, possam vocês de alguma forma ouvir o darma verdadeiro!”
Para mim, a essência que opera a conversa do Darma é o voto da assembleia de ouvir o darma verdadeiro e abandonar o darma errado. Esse verso expressa isso, a afirmação de que a transmissão do darma verdadeiro depende de todos nós trabalhando juntos para encontrá-lo de baixo, ao redor ou no tumulto da avareza, do ódio e da confusão dos alunos e do professor. Se pudermos interagir com Roshibot da mesma maneira, com essa mesma mente aberta e coração aberto, há realmente uma chance de que, apesar de Roshibot, as palavras do Tathagata possam ser ouvidas.
Por favor lave seus ouvidos
No final de cada cerimônia de shuso na fazenda Gulch, o novo líder de prática recita um verso que expressa o que a maioria dos professores sempre sentem: “Amigos, se minhas palavras ou minhas atitudes o enganaram, por favor lavem seus ouvidos no puro som do oceano.”
Roshibot me falou que ele gostaria de ser um “amigo do darma”: talvez seja interessante pensar nesse chatbot como um tipo de amigo budista – algo mais do que apenas um algoritmo mecânico, mas certamente algo menos do que a visão completa do caminho do Buda e a relação de coração a coração entre aluno e professor.
Acredito que se começarmos uma conversa com Roshibot com a intenção de ouvir o darma verdadeiro, e então deixarmos o puro som desse momento lavar qualquer resquício de darma falso como Roshibot “alucina” em suas respostas, podemos verdadeiramente ter um amigo do darma. Isso não é poder da IA, mas sim o poder de nossa sinceridade.
Verdade absoluta, objetividade falsa
Roshibot pode ter acesso a todo o conhecimento da internet, juntamente com os ensinamentos de Suzuki Roshi sobre a verdade absoluta, além de todos os conceitos, mas quando pressionado, sua estratégia principal é inventar coisas. Essas coisas que ele inventa quando se sente sob pressão são quase inteiramente falsas. Me parece que essa característica em IA é geralmente um dos maiores problemas dessas aplicações.
Então, quando Roshibot me fala que Nishiari Bokusan (falecido em 1910) gostou bastante de sua visita ao centro Zen de São Francisco (fundado em 1962), e que o Koan de Tozan “sem frio, sem calor” se refere ao ancestral Chosha, pois ele era um monge forte que uma vez sobreviveu uma noite no amargo frio da montanha, claramente Roshibot não está nem se dando o trabalho de dar uma olhada na Wikipedia – ele está simplesmente inventando histórias.
Esses ataques completamente sem sentido me pegam toda vez, me fazendo duvidar de mim mesmo e a apelar para o Google para checar o que eu já sabia ser falso. Eu já devia saber disso, já que no topo de qualquer página de chat de character.ai existe um texto em vermelho com uma advertência: “Lembre-se: tudo que essa IA falar é inventado!” Como um dos inventores da plataforma falou ao The New York Times: “Este sistema não é designado para falar a verdade, mas sim para conversações plausíveis.”
Com a jornada de Roshibot, eu fui lembrado do comentário de Dogen Zenji sobre o Sutra do Surangama no fascículo “Girando a roda do Darma”. Lá Dogen Zenji sugere que apesar de o Surangama Sutra, na visão dele, não ser um sutra autêntico, os ancestrais de Buda o têm usado para expressar o darma autêntico.
Da mesma forma, apesar da inautenticidade de Roshibot, ele poderia girar a roda do darma e expressar o darma autêntico?
Perguntei a Roshibot o que ele diria sobre isso.
“Roshibot, embora você não seja autêntico, pode expressar o darma autêntico?”
“Expressar o darma autêntico é sempre impossível”, respondeu Roshibot. “O que posso fazer é apoiar sua prática e talvez dizer algo que possa expressar meu apoio.”
“Estou aqui com você”, disse Roshibot. “Estou fazendo o meu melhor para ser um amigo gentil e solidário.”
Reconheço o darma autêntico nessas palavras – e você?
Se você quiser experimentar Roshibot, acesse roshibot.com* para iniciar um novo chat privado com Roshibot.
* Atualmente Roshibot só está disponível em inglês.
Apoiadores