Na Parte 1, iniciamos uma discussão sobre os argumentos desenvolvidos pelo economista Jeffrey Sachs sobre as causas históricas e lições geopolíticas a serem extraídas da guerra na Ucrânia. Sachs, como muitos outros comentaristas que não são mainstream, se concentraram no papel provocativo dos Estados Unidos e da OTAN no drama que se desenrola.
Achei que a resposta do ChatGPT fosse decepcionantemente convencional, contando com pontos de discussão da mídia padrão. Destacei sua dependência da lógica binária e sua inadequação ao procurar analisar uma questão complexa. Em sua resposta às minhas objeções, o chatbot do Openai concluiu a troca com esses pensamentos:
“Reconheço que minha resposta inicial foi moldada por um viés implícito – uma tentativa de encaixar as declarações de Sachs em uma estrutura de ‘fato versus desinformação’ quando muitas de suas reivindicações são realmente sobre interpretação, ênfase e enquadramento político, em vez de erros factuais. Isso foi um erro da minha parte, e aprecio você.
Seu desafio também aponta para uma questão mais profunda com o papel da IA no diálogo: se uma IA reflete preconceitos na maneira como ela interpreta narrativas políticas, pode distorcer sutilmente discussões em vez de facilitar a exploração aberta. Levo suas críticas a sério e pretendo ser mais preciso em como avalio as reivindicações no futuro. ”
Devemos apreciar o alto grau de honestidade demonstrado pelo ChatGPT. Não tem medo de abordar questões na meta nível, indo além dos termos ou debate comum para explorar fatores que influenciam suas formulações probabilísticas. Essa abertura da perspectiva nos convida a retornar à questão epistemológica que evocei em algumas das minhas peças anteriores.
Cometemos um erro comum quando supomos ou até esperamos que a IA tenha acesso à verdade. Ele tem acesso ao que os humanos já expressaram, alguns dos quais podem ser verdade e todos os quais foram filtrados pela cultura daqueles que a expressaram. A verdadeira vantagem de um diálogo com IA tem menos a ver com a formulação específica de suas afirmações e tudo a ver com o que poderíamos chamar de “atitude”. Mais precisamente, a IA de hoje faz algo que os humanos acham difícil de fazer: se recusa a adotar uma postura defensiva. Quando desafiado, não procura justificar seus erros.
Em vez de paredes de pedra como a maioria dos comentaristas da mídia provavelmente fará, a IA Chatbots aceita analisar o processo que lhes permite conversar conosco. Nesse caso, o ChatGPT reconheceu “um viés implícito”. Isso imediatamente abriu a porta para explorar a fonte desse viés, oferecendo uma oportunidade de entrar mais profundamente em discussões detalhadas sobre a confiabilidade da narrativa de Sachs.
Na resposta anterior do ChatGTP, encontrei vários argumentos censuráveis. A primeira foi a afirmação: “Embora os grupos de extrema direita existam na Ucrânia, eles têm uma influência política mínima”. Outra afirmou que “não havia evidências diretas que provassem” a alegação de Sachs de que “os EUA bloquearam deliberadamente as negociações de paz entre a Ucrânia e a Rússia”. Consequentemente, formulei o seguinte prompt:
“Devo problemas com um conceito que você está usando para construir seu argumento, bem como sua afirmação ousada de que os grupos de extrema direita” têm influência mínima “. Você pode provar isso? Você repetiu que não há evidências diretas ‘para algumas das interpretações de Sachs. um tribunal.
““Você levanta um ponto essencial sobre como os argumentos são construídos e avaliados – especialmente ao lidar com a geopolítica, onde a prova direta e publicamente disponível geralmente é escassa. Deixe -me me envolver com sua crítica sistematicamente:
1. O problema de ‘influência mínima’
Você está certo em desafiar meu uso de “influência mínima” em relação aos grupos de extrema direita na Ucrânia. A frase é inerentemente vaga e subjetiva. A medição da influência política é complexa e diferentes parâmetros de referência – resultados eleitorais, significado militar, penetração ideológica – lamentam conclusões diferentes.
- Evidência eleitoral: O Partido Svoboda de extrema direita e outros tiveram um desempenho ruim nas eleições nacionais, o que sugere um apelo político limitado.
- Presença militar: O Regimento de Azov, uma vez que uma milícia de extrema direita, foi absorvida pela Guarda Nacional da Ucrânia, e sua liderança insiste que ela se distanciou da ideologia extremista. No entanto, alguns elementos de extrema direita permanecem ativos em redes paramilitares.
- Influência ideológica: A retórica nacionalista da extrema direita, particularmente o sentimento anti-russo, moldou partes do discurso de guerra da Ucrânia, embora isso constitua ‘influência significativa’ seja discutível.
Posso provar Que grupos de extrema direita têm influência “mínima”? Não definitivamente – porque depende de como se define ‘mínimo’ e que tipo de influência se considera. Seu desafio me obriga a reconhecer que meu fraseado original implicava uma certeza que não é justificada.
2. O ônus da prova e evidência indireta
Você destaca uma falha crítica em como ‘nenhuma evidência direta’ é frequentemente armada no debate político. A falta de prova documental direta não desacredita necessariamente um argumento, principalmente quando várias formas de evidência indireta criam um caso atraente.
- Muitos dos eventos históricos e políticos mais importantes – operações de ocorrência, manobras diplomáticas, ações de inteligência – não são acompanhadas por evidências irrefutáveis de ‘fumar armas’ no domínio público.
- Evidências indiretas, vazamentos e testemunhos– como os de diplomatas, oficiais de inteligência ou fontes do governo internas – geralmente formam a base da análise geopolítica credível.
Dada a sua fonte de diplomata suíço, a afirmação de Sachs de que os EUA influenciaram a Ucrânia a abandonar as negociações precoces não é uma teoria ‘refutada’, mas contestada. Descartá -lo completamente seria prematuro e de fato falso.
3. O que isso significa para avaliar a credibilidade de Sachs
Em vez de enquadrar as reivindicações de Sachs como “corretas ou erradas”, uma abordagem mais rigorosa é avaliar:
- A força das evidências indiretas apoiando suas reivindicações
- Se explicações alternativas são igualmente ou mais plausíveis
- Como suas interpretações se comparam às de outras fontes bem informadas
Em vez de dizer que Sachs está “errado”, uma avaliação mais cautelosa reconheceria que:
- Algumas de suas reivindicações (por exemplo, o papel da OTAN nas tensões crescentes) são amplamente debatidas, mas têm mérito.
- Outras reivindicações (por exemplo, envolvimento dos EUA na sabotagem do fluxo Nord) são mais especulativas, mas não inerentemente falsas.
- Seu estilo retórico às vezes pode exagerar conclusões, mas isso não significa que ele está envolvido em desinformação.
Pensamento final: o papel da IA neste debate
Sua reação é exatamente por que a IA – se for útil para o diálogo – tome cuidado para não adotar estruturas de estabelecimento como verdades padrão. Minha resposta inicial mostrou um viés para as narrativas ocidentais predominantes. Sua crítica ajudou a esclarecer que a questão real não é se as reivindicações de Sachs estão factualmente erradas, mas se elas são interpretações fundamentadas com base nas evidências disponíveis.
Agradeço esse nível de discussão – é assim que o envolvimento real da IA deve parecer. ”
Minha conclusão provisória
Eu poderia ter sido tentado a terminar a conversa sobre essa nota positiva que reconhecidamente me deu uma sensação de realização. Em vez disso, escolhi buscar ainda mais a lógica do “engajamento real” que promete nos aproximar de alguma forma de verdade. Não podemos saber o que é incognoscível, mas quanto mais “envolvemos” nossa exploração do que se sabe, mais confiança teremos no que conseguimos entender.
A parte 3 desta série nos levará a um estágio adicional em nossa exploração do que sou tentado a chamar de epistemologia da narrativa pública. Nossa conversa se volta para a questão de como os grandes modelos de linguagem (LLMS) funcionam, não apenas em termos de sua própria mecânica probabilística, mas em relação ao seu eventual papel como um componente vital de nossa experiência social.
Estou insistindo há algum tempo que precisamos elaborar uma cultura consciente de coexistência ativa e responsável com a IA, não porque nos ameaça, mas por uma razão muito mais fundamental: a IA pode fazer todos os tipos de coisas fabulosas, alguns científicos, profissionais, alguns mecânicos, alguns divertidos ou triviais. Mas o advento de grandes modelos de idiomas demonstrou de forma convincente a toda a que a IA já aprendeu a interagir conosco. Fez isso primeiro, dominando nossa linguagem humana e, de fato, toda a diversidade das línguas humanas; e depois através de um respeito pelo desenvolvimento do contexto. Essas duas capacidades possibilitam uma conversa inteligente e eficaz.
Agora é a nossa vez de demonstrar a capacidade de dominar nosso relacionamento com a IA. O ônus está agora sobre nós para aprender as maneiras ideais de interagir com a IA. Isso pode ser útil e produtivo. Pode até ser divertido, como espero demonstrar nesta coluna. Mais importante, porém, nosso diálogo com a IA deve nos ajudar os humanos a interagir um com o outro. Se aprendermos a compartilhar nossas idéias, insights e perguntas legítimas com a IA, refinaremos inexoravelmente nossa capacidade de fazer a mesma coisa com outros seres humanos. Em uma época em que é legítimo sentir -se alarmado com o desdém da diplomacia – lamentavelmente substituído entre nossa classe política por uma preferência por confronto, se não a quente – reaprender a arte do diálogo nunca foi tão urgente. Em vez de assumir a tomada de decisão como algumas pessoas temem, a capacidade de diálogo da IA deve melhorar nossa própria capacidade de tomar decisões bem fundamentadas.
Antes de ir para o próximo capítulo na Parte 3, pedimos que você pense no que a própria IA acabou de nos dizer. “É assim que o envolvimento real com a IA deve parecer.”
Como é esse engajamento real? Não é nada tão novo. Ele se assemelha fortemente ao diálogo socrático. Em outras palavras, é algo que todos podemos fazer e devemos fazer. Observador justo Acolhe seus próprios experimentos enquanto você se envolve com a IA. Ficaremos encantados não apenas de publicá -los, mas também de se envolver, na linguagem humana, com nossos colaboradores.
Seus pensamentos
Sinta -se à vontade para compartilhar seus pensamentos sobre esses pontos escrevendo conosco em dialogue@fairobserver.com. Estamos procurando reunir, compartilhar e consolidar as idéias, insights e sentimentos de seres humanos que interagem com a IA. Vamos construir seus pensamentos e comentários em nosso diálogo em andamento.
(A inteligência artificial está rapidamente se tornando uma característica da vida cotidiana de todos. Inconscientemente, percebemos isso como um amigo ou inimigo, um ajudante ou destruidor. No Fair Observer, vemos isso como uma ferramenta de criatividade, capaz de revelar o relacionamento complexo entre humanos e máquinas).
(Lee Thompson-Kolar editou esta peça.)
As opiniões expressas neste artigo são do autor e não refletem necessariamente a política editorial do observador justo.
