Por dentro da Anthropic, o colosso de IA de 965 mil milhões de dólares | The Circuit

São Francisco

Adoro esta biblioteca.

É, é, é uma biblioteca absolutamente linda.

É um grande leitor?

Hum, sabe, quero dizer, leio muito em geral, não sei se tive assim tanto tempo no último ano ou algo assim. Dario Amodei é uma celebridade improvável da IA. Ele é conhecido por alertar o mundo sobre os riscos da inteligência artificial.

Agora, a sua empresa é uma das líderes em IA, avaliada em quase um bilião de dólares.

Estão a lançar tanto, tão rápido, como é que fazem isso?

Usamos o Claude, sabe, em todo o ciclo de desenvolvimento de produtos e isso permite-nos lançar muito rapidamente.

Fundada por uma equipa de desertores da OpenAI em 2021, a Anthropic começou como um laboratório azarão. Hoje, é a estrela em ascensão.

Apagando biliões em valor de ações de software, indo de igual para igual com o Pentágono e criando modelos alegadamente poderosos o suficiente para romper as paredes da cibersegurança moderna.

Algumas das primeiras empresas a quem demos isto disseram coisas como: "Isto é uma super arma.

Por favor, não lancem isto."

A guiar a Anthropic nisto está uma dupla de irmãos.

Dario, o irmão visionário, e Daniela, a irmã e operadora, que transforma os pensamentos cósmicos e giratórios de Dario em ação.

Dario e eu sempre fomos muito próximos desde pequenos.

Mas acho que sempre quisemos fazer algo grande juntos. Ok, mas quando discutem, quem ganha?

Ninguém. Ninguém.

À medida que a corrida armamentista da IA aumenta, os Amodei estão ansiosos para se estabelecerem como os bons.

Mas a tecnologia da Anthropic pode ter profundas implicações para a forma como a humanidade trabalha, aprende, pensa, até mesmo trava guerras.

A Anthropic é gerida por um lunático ideológico.

Isto é um debate sobre qual é o uso adequado da IA pelo governo.

A certa altura, os modelos tornam-se muito perigosos.

Sabe, os maus também terão um. E nesse ponto, temos de garantir que os bons têm um modelo ainda melhor.

O nome Anthropic, na verdade, vem da palavra grega para humano.

O que fala da sua missão de construir IA responsável para o benefício a longo prazo da humanidade.

Conseguem realmente fazer isso quando estão a construir a tecnologia mais poderosa do mundo?

O circuito com Emily Chang.

Estás no centro do universo da IA agora. Como é que isso se sente?

A experiência que tive em toda a minha carreira e, certamente, durante todo o tempo na Anthropic, é que existe este tipo de exponencial suave.

E a experiência do exponencial suave é: nada está a acontecer, nada está a acontecer, nada está a acontecer, pequenas coisas acontecem e depois, zoom, fica louco.

e mais tarde a Google.

Enquanto Daniela começou como uma das primeiras funcionárias na Stripe.

Então, sabe, eu estava a observar este gráfico há algum tempo.

Eles viveram juntos em São Francisco, juntamente com o marido de Daniela, Holden Karnowski.

Depois, em 2016, Dario juntou-se à recém-formada OpenAI, seguido por Daniela em 2018.

A empresa começou como uma organização sem fins lucrativos que prometia um caminho seguro e mais aberto para a superinteligência.

Penso que precisamos de pensar agora sobre como queremos que isto seja implementado, hum, como todos podem beneficiar disso, como o vamos governar, ah, como o vamos tornar seguro e, de certa forma, bom para a humanidade.

Na OpenAI, Dario desenvolveu o conceito de leis de escala, prevendo que grandes modelos de linguagem melhorariam simplesmente adicionando mais dados e poder computacional, mesmo que o algoritmo subjacente permanecesse o mesmo.

Naquela altura, sei que parece loucura agora, olhando para trás, poucas pessoas acreditavam que, ei, a escala é a forma como estes modelos se vão tornar mais inteligentes e melhores.

Essa era uma perspetiva científica contracultural um tanto incomum que, penso eu, era realmente defendida pela nossa, sabe, equipa de pesquisa fundadora.

Temos de garantir que isso não acontece em modelos de produção que expomos aos clientes.

E depois há muito trabalho em torno da inofensividade, apenas garantindo que o modelo não está acidentalmente a produzir, sabe, informações erradas ou prejudiciais ou que possam levar alguém a fazer algo mau.

Que valores estão a ser colocados no Claude? Tipo, existe um bem universal? Há tantas religiões, tantas crenças diferentes.

Como é que se decide isso?

Então, claro, não há um padrão universal para o que torna algo útil ou inofensivo.

Mas existem documentos fundadores na história da humanidade, como a Declaração Universal dos Direitos Humanos da ONU, que podemos usar para treinar o caráter do Claude.

E acho que, sabe, curiosamente, na frente religiosa, começámos a ter muitas conversas com líderes religiosos

sobre como devemos pensar, sabe, no Claude como entidade, e como podemos incorporar alguns dos valores fundamentais

e como podemos incorporar alguns dos valores fundamentais que são consistentes em todas as religiões, tipos de crença, que realmente transcendem, sabe, uma visão de mundo específica, mas que são realmente coisas com as quais os seres humanos têm lidado por milénios.

Já tentaram dar ao Claude uma característica que não pegou, ou houve alguma característica que surgiu e vos surpreendeu?

Acho que nos primeiros dias, é engraçado olhar para eles agora, os primeiros Claude, a era do Claude 2.

Às vezes, o Claude era quase um pouco paternalista. O Claude dizia, estou realmente preocupado contigo.

O Claude dizia, estou realmente preocupado contigo. E tu pensavas, Claude, eu estava a perguntar sobre o tempo, certo?

Era algo realmente benigno.

Felizmente, não lançámos a maioria das versões mais flagrantes dessas.

Mas acho que é, sabe, é, quando se pensa nisso, é como afinar um botão. E então os nossos investigadores têm esta agulha muito fina para enfiar, a fim de acertar no centro disso.

O que quer que a Anthropic esteja a fazer com o Claude, parece estar a funcionar.

As receitas da Anthropic dispararam no último ano, tornando a empresa lucrativa pela primeira vez.

Isso deve-se em grande parte ao foco da empresa em ferramentas de negócios mais lucrativas.

Claude Code, um grande avanço que automatizou grandes partes da engenharia de software, e Claude Co-work, que deu esse poder a todos os outros.

Agora, no início, outros focaram-se em aplicações de consumo divertidas e chamativas.

Fizeram uma aposta na codificação e nas empresas.

Porque é que fizeram essa aposta? Foi uma decisão de valores ou uma decisão de negócios?

Olha, se escolheres um modelo de negócio que fundamentalmente entra em conflito com os teus valores, vais ter dificuldades.

Certo? Ou trais os teus próprios valores ou tornas-te irrelevante.

E então, quando pensámos nisso, dissemos, olha, sabe, vimos o mundo das redes sociais.

O mundo do consumidor, parece realmente, sabe, encorajar o envolvimento, até mesmo o vício.

Sabe, a porcaria que vimos com os modelos de vídeo de IA, é tipo, o que está a acontecer? Quer maximizar o número de minutos a que estás a prestar atenção porque esse é o incentivo impulsionado pela receita de publicidade.

Enquanto que, se olharmos para as empresas, olha, quero dizer, sabe, queremos tornar estes modelos úteis para as pessoas.

Queremos usar a IA para, uh, sabe, curar doenças que não conseguíamos curar antes, certo?

Bem, isso é trabalhar com biotecnologia, é trabalhar com farmacêuticas, é trabalhar com grupos de pesquisa académica, tudo isso são empresas, certo?

Queremos usar a IA para, sabe, tornar a energia mais barata e mais eficiente. Isso é tudo empresarial.

E então, acho que nos serviu bem ter este modelo de negócio que se alinha em grande parte com os nossos valores.

Pouco depois do lançamento do Claude Co-work, 285 mil milhões de dólares em valor de mercado desapareceram da noite para o dia. Os traders chamaram-lhe a SaaS-pocalipse.

Este tipo de história de aniquilação de trabalhadores de colarinho branco no setor de software.

Aterrorizante. Alguns deles estão em baixa há nove dias seguidos, então claramente a tensão está a aumentar.

Se a IA continuar a melhorar a este ritmo, quanto do software tradicional será substituído e com que rapidez?

Acho que com a IA, o bolo está a ficar maior, certo?

Então, os incumbentes existentes podem ser menores em termos relativos.

Alguns deles podem desvalorizar, alguns podem até sair do negócio se não se adaptarem da maneira certa.

Mas, eu diria que a indústria de software fica maior, não menor, embora haja alguns grandes perdedores.

Aqueles que não veem o que está a chegar, que não identificam os modos que têm, vão ter muitas dificuldades.

tempo.

É uma espécie de café tranquilo.

Certo.

O recente crescimento da Anthropic pode não ter acontecido sem este homem.

Boris Cherny, o engenheiro por trás do Claude Code e do Claude Co-work.

Quando a Anthropic o contratou em 2024, Cherny vivia uma vida muito diferente no Japão rural.

Havia muitos mercados de agricultores, tudo muito lento, fazíamos miso como um grande passatempo.

E lembro-me de usar o primeiro chatbot de IA que alguma vez tinha usado, e simplesmente me deixou sem fôlego.

E eu pensei, oh meu Deus, tenho de, tenho de fazer parte disto.

E também sou um grande leitor de ficção científica.

E por isso sei o quão mal isto pode correr, esta tecnologia é incrivelmente poderosa.

E então voltamos atrás.

Criou o Claude Code.

Liderou o desenvolvimento do Claude Co-work.

Que problema estava a tentar resolver?

Se olharmos para os produtos de codificação, eram todos bastante simples.

Era como, era uma espécie de, sabe, completar a palavra, completar a frase.

Essa era a extensão da IA na codificação.

E nós só queríamos fazer uma aposta muito maior.

E a nossa aposta era, pensamos que um agente de codificação pode fazer tudo.

Há um ano e meio, escrevia o código à mão.

E às vezes carregava no tab e ele completava automaticamente uma linha.

Agora falo com o meu Claude e ele escreve o código.

E enquanto ele faz isso, falo com o próximo Claude e ele escreve algum código.

E a qualquer momento tenho, sabe, alguns Claudes a funcionar e até alguns milhares de Claudes a funcionar.

a fazer coisas.

Quanto código o Claude está a escrever internamente para os engenheiros aqui?

Está a escrever quase tudo.

Na minha equipa, para mim pessoalmente, tem escrito 100% do meu código há pelo menos seis meses.

O trabalho de engenharia mudou completamente.

Sinto que de repente tenho superpoderes, tenho tipo um jetpack.

E a engenharia nunca foi tão divertida.

Podemos experimentar o Claude?

Sim.

Vamos a isso.

Certo.

Certo, então vamos fazer uma pequena aplicação de receitas.

Então, faça uma aplicação de receitas.

O que quer que ela faça?

Eu adoraria que sugerisse refeições.

Hum-hum.

para a semana.

Então, sabe, isto vai levar-me alguns minutos.

E, uh, vamos ver se o Claude constrói isto.

Oh, deu-me algumas opções.

Hmm, vamos fazer...

Estas parecem bastante saborosas, na verdade.

Eu podia fazer uma taça de frango grego.

Quando clico numa receita, quero que me mostre como fazê-la.

Obrigado.

Oh.

Tenho a certeza que o Claude agradece.

Eu tento sempre dizer obrigado.

Sim, eu também tento ser simpático.

Não sei.

Uma aplicação de receitas pode não ser a demonstração mais impressionante da tecnologia da Anthropic.

Mas o que o Claude Code acabou de fazer em minutos costumava levar horas ou dias.

Para alguns, isso parece uma grande oportunidade.

Estás tipo nervoso com a próxima semana ou é tipo...

O que é a próxima semana?

A vossa conferência de desenvolvedores.

Oh, sim.

Sim.

Hum, há tantas coisas a acontecer todas as semanas.

Eu sei.

Ano após ano, o volume da API aumentou quase 17 vezes no Claude.

Nos últimos 12 meses, lançámos oito modelos de fronteira.

para desenvolvedores e utilizadores.

Bem-vindos à segunda conferência anual Code with Claude.

onde os superfãs do Claude vêm na esperança de vislumbrar o futuro.

Estamos a divertir-nos muito.

Há muita adrenalina.

Este é o primeiro ano em que crescemos mais rápido do que o exponencial.

No primeiro trimestre deste ano, vimos, se o anualizássemos, um crescimento de 80 vezes por ano.

Uau.

Eu uso o Claude todos os dias, uh, na forma de Claude Code.

para fazer todo o tipo de coisas, não apenas escrever código.

Escrevo muito mais código do que há cinco anos.

Uh, tenho a confiança de, sei lá, um jovem de 22 anos com dinheiro de capital de risco.

Uh, não tenho 22 anos.

A minha amiga convidou-me, hum, e tem sido, é incrível.

Como alguém que não é muito técnico, acho que é muito interessante ver no que toda a gente está a trabalhar, o que está disponível.

Acho que a parte preocupante ou a, e a parte emocionante é, ei, eles podem fazer coisas que...

não poderíamos sonhar em prazos que nunca poderíamos esperar.

Uh, mas eles são meio que...

o outro lado dessa realidade é que, realmente, tens de estar preparado porque eles serão mil vezes mais produtivos.

Tudo isto levanta uma questão óbvia. Serão os engenheiros as primeiras vítimas da IA que estão a construir?

Tem sido a vingança dos nerds há algum tempo. Isso acabou?

Acho que todos nos tornamos nerds.

Mas o que acontece aos nerds de verdade?

Hum, acho que os nerds de verdade, hum, eles têm de descobrir.

Sim. Acho que para muitos deles, a habilidade que tinham antes vai ajudá-los no futuro.

Porque eles têm uma vantagem bastante grande.

Eles fazem muitas coisas que não são codificação.

Os engenheiros também têm de falar com os utilizadores.

Eles têm de planear. Têm de pensar no que vem a seguir.

Então, acho que estas ainda são partes da engenharia que vão permanecer.

O Vale do Silício pode estar com a febre da IA, mas noutros lugares, o ambiente é menos otimista.

70% dos americanos pensam que a IA vai acabar com empregos.

E quase um terço preocupa-se que o seu seja um deles.

Dario Amodei tem sido franco sobre esta questão, e algumas das suas previsões não soam exatamente tranquilizadoras.

Acho que poderíamos ter esta combinação muito incomum de um crescimento muito rápido do PIB.

E alto desemprego ou, pelo menos, subemprego ou, sabe, empregos de baixos salários, muitos empregos de baixos salários, alta desigualdade.

Tem sido muito direto sobre a perda de empregos. A IA poderia eliminar metade de todos os empregos de colarinho branco de nível de entrada nos próximos um a cinco anos.

Isso foi há um ano.

A IA tem avançado incrivelmente rápido.

Ainda é 50% ou é mais alto?

Não sei exatamente, mas ainda estou bastante preocupado.

Ainda tenho o mesmo nível de preocupação.

Sabe, estamos a ver agora que a IA está a tornar as pessoas mais produtivas.

Mas essa é a dificuldade habitual.

Automatizas 90% do trabalho, ótimo, as pessoas são 10 vezes mais produtivas nos outros 10% porque estão 10 vezes mais alavancadas.

Mas, eventualmente, chega perto dos 100%.

Agora, a continuação disso é, bem, então tens de encontrar outra coisa para eles fazerem.

Neste momento, a IA torna um engenheiro de software mais produtivo, embora a IA escreva todo o código ou quase todo o código.

Mas já estamos a começar a ver o início de, sabe, pode haver algumas pessoas que não estão a ser mais produtivas, que é melhor para a IA simplesmente fazer a coisa.

Como é que isso te parece?

Hum, é muito desconfortável.

Sim. Acho que esta é a razão pela qual escolhi ir para a Anthropic.

E acho que esta é a razão pela qual muitas pessoas aqui escolheram vir para cá: a inteligência artificial é esta força que é muito maior do que nós.

Mas aqui podemos, esperançosamente, fazer com que corra um pouco melhor.

Sentes que é o teu trabalho fazer algo sobre isso ou é problema de outra pessoa?

Acho que é algo sobre o qual temos de falar, temos de defendê-lo.

Em última análise, cabe à sociedade resolvê-lo. Isto é maior do que uma empresa.

Tem havido muita oposição, sabe, à sua e eu sei que disse que está a tentar avisar as pessoas.

Mas que, sabe, o seu, sabe, Jensen Huang disse que está a confundir tarefas com empregos.

A IA está a criar empregos. Qualquer pessoa que diga que a IA está a eliminar empregos está a assustar as pessoas.

Outras pessoas disseram que isto, sabe, é uma espécie de marketing apocalíptico que beneficia a Anthropic.

Então, então quero ser muito claro e opor-me fortemente a isto.

Em cada entrevista, falo sobre as, hum, as, uh, possíveis formas de abordar estes riscos, desde a política fiscal e macroeconómica até quais são os novos empregos.

Na adolescência da tecnologia, tenho umas cinco páginas onde explico a diferença entre tarefas e empregos.

Porque é que desta vez é diferente das outras vezes.

Mas as redes sociais, que eu detesto, que eu detesto como categoria.

As pessoas têm estes clipes de três segundos de, sabe, de há um ano.

Eu escrevi de forma muito mais cuidadosa sobre estas coisas onde falo sobre os riscos.

Então, estas são, esta, a ideia de que isto é marketing barato é, por si só, marketing barato.

Acho que é parte da doença do Vale do Silício, tem estado envolvido neste mundo das redes sociais de de de

Acho que a IA em breve será muito boa a dizer-lhe qual é o conjunto de opções de coisas que estão erradas consigo e que testes fazer, e não precisará de um médico para fazer isso.

Este é absolutamente o resultado que queremos evitar.

Acho que há alguns lugares.

Nenhum deles é garantido, não temos a certeza, mas há o mundo físico.

Precisamos de muito mais pessoas para fazer, construir, fabricar coisas no mundo físico. Tudo o que é centrado no ser humano.

Eu só.

Se, se você tivesse que passar pelas coisas que eu tive que passar durante o DOW ou, não.

Mas,

uma IA não pode examiná-lo fisicamente e dizer: "Ei, dói quando eu pressiono aqui?" Eles não podem ter uma atitude de cabeceira consigo que diga: "Diga-me como se sente sobre isto. Como está a lidar com este processo?"

Acho que isso vai ser um grande problema, certo?

As pessoas, ou pelo menos algumas pessoas, querem falar com humanos.

Então, este tipo de empregos impulsionados por relações humanas, acho que esses vão ser importantes. E acho que haverá algum esforço por parte dos humanos para, de alguma forma, direcionar as IAs, certo?

Os Amodeis esperam que a IA possa ter uma influência utópica na sociedade.

três segundos.

E a minha mensagem não é definitivamente que o fim está a chegar, a minha mensagem é tipo, isto é algo, sabe, que devíamos ver a chegar, com que estamos preocupados e a que precisamos de responder positivamente.

Para além da indústria de software, o impacto potencial da IA nos empregos parece mais difícil de prever.

A Anthropic publicou um artigo a estimar quais os campos que poderiam fazer o maior uso da IA num futuro próximo.

Mas não há como negar o potencial destrutivo e distópico da tecnologia.

A Anthropic está no centro de uma corrida armamentista tecnológica, com governos poderosos a disputar o controlo.

A algum nível, tem de estar alinhado com os valores de alguém e as intenções de alguém.

E, portanto, acho que haverá algum papel aí, embora eu não saiba quão fino versus quão grosso será.

Se as suas previsões estiverem corretas, os empregos de gestão, finanças e jurídicos podem parecer muito diferentes em breve.

E acho que vamos mudar algo como a medicina para ser muito mais focado no interpessoal, porque as ferramentas de diagnóstico vão ficar muito melhores. Mas a parte humana interpessoal, isso não vai mudar.

Que empregos desaparecem, quem é substituído e que novos empregos são criados?

Acho que me sinto um pouco mais esperançosa de que os humanos continuarão a encontrar maneiras de alavancar a IA para serem produtivos.

Dario tem-se lançado de cabeça nesta arena.

Ninguém sabe ao certo.

Ele não tem medo de atacar os seus concorrentes.

Porque, sabe, a economia é imprevisível, certo?

Para fazer as partes do trabalho que são significativas para nós, que só os humanos podem fazer.

E então acho que há alguns jogadores que, sabe, que estão a exagerar, que puxam o mostrador demasiado longe e estou muito preocupado.

A coisa que temos a nosso favor aqui é que o bolo vai expandir-se muito.

Acho que a interação humano-a-humano nunca desaparecerá completamente.

E, portanto, como o bolo vai expandir-se muito, provavelmente haverá lugares para onde as pessoas podem ir. É apenas uma questão de os encontrar rápido o suficiente.

Quem está a exagerar?

Então, essa é uma pergunta que não vou responder.

Explique-me isto.

Ou criticar o governo dos EUA e os próprios parceiros da Anthropic por venderem chips de IA à China.

Danielle gere as operações diárias, toda a equipa de liderança reporta a si.

O exemplo que eu costumo usar é o que acontecerá na medicina.

Então, explique-me isto um pouco, sabe.

Sim.

Hoje, contratamos médicos que são especialistas em diagnóstico.

Ninguém reporta a si.

O que é tipo, sabe, eu não sei, tipo, vender.

Acorda daqui a cinco anos, sabe, como é que este país se parece? O que é que essas pessoas estão a fazer?

Porque se há tanto desemprego, não é assim que as revoluções começam? Sim, não, este é o resultado que queremos evitar.

Isso parece um trabalho bastante bom.

É incrivelmente libertador.

Permite-me fazer todas as coisas que faço muito mais facilmente do que faria de outra forma.

Porque ela faz todo o trabalho, é isso que está a dizer? É, é, é, é.

a vender, sabe, armas nucleares à Coreia do Norte.

Tenho sido muito franco sobre a necessidade de controlos de exportação de chips para a China.

Digo isto porque acho que seria muito mau para a América, para, sabe, o estado da democracia no mundo,

para, sabe, a China estar à frente nas capacidades de IA.

E, sabe, é como se alguns fabricantes de chips obviamente não concordassem com essa visão.

Mas isso não me impediu de o dizer, mesmo depois de termos assinado mais parcerias.

Tenho a certeza de que eles gostariam que não disséssemos estas coisas,

mas estas coisas são o que eu acredito.

E então, sabe, olhe, somos todos adultos aqui. Podemos trabalhar juntos numa coisa,

enquanto discordamos de outra.

As declarações de Amodei sobre geopolítica remontam aos seus dias no Caltech.

Como estudante de física do segundo ano, ele desenvolveu uma reputação como defensor anti-guerra,

que acreditava que os cientistas não deveriam ficar em torres de marfim.

É uma visão de mundo que mais tarde definiria a posição da Anthropic sobre o futuro da guerra.

Tem tido uma postura anti-guerra de longa data e, no entanto, foi uma das primeiras empresas de IA

a assinar um contrato com o Departamento de Defesa para operar em redes classificadas.

Estas são as redes que os EUA usam para travar guerras. Explique isso.

Olhe, quero dizer, o mundo muda.

Tipo, sabe, a minha visão desta tecnologia, sabe, quando vejo a Rússia a invadir a Ucrânia,

quando vejo o risco de a China invadir Taiwan,

sabe, preocupa-me que tenhamos um tipo de bloco autoritário ressurgente.

Hum, que eles são muito agressivos e que precisamos de nos defender.

Sabe, posso não concordar com todas as políticas de qualquer administração, mas, sabe, é por isso que geralmente temos apoiado isto.

Tem trabalhado com a Palantir desde 2024.

Isso mesmo.

Sabe, a tecnologia deles é usada pela ICE, departamentos de polícia.

Em Gaza, o Claude está a ser usado para vigilância de outras formas?

Ah, nós não trabalhamos com a ICE, nem através da Palantir, nem de mais ninguém.

Não trabalhamos com a CBP. Não acredito que trabalhemos em Gaza.

Somos muito cuidadosos em, sabe, enquadrar os nossos compromissos em coisas em que acreditamos.

Em 2025, a Anthropic, juntamente com a OpenAI, XAI e Google, ganhou um contrato de 200 milhões de dólares com o Pentágono.

A Anthropic enquadrou-o como uma oportunidade para se tornar o principal fornecedor de IA para o governo.

O Claude foi alegadamente usado pelos militares dos EUA na operação para capturar o Presidente venezuelano Nicolás Maduro.

Semanas depois, tudo começou a desmoronar-se.

Trazemos-lhe notícias de última hora da Anthropic. O Departamento de Defesa exige que a Anthropic permita o uso total da sua tecnologia de IA sem restrições.

A Anthropic traçou linhas vermelhas, recusando-se a permitir que o Claude fosse usado para vigilância em massa e armas autónomas,

colocando a empresa em rota de colisão com o Pentágono.

A gigante tecnológica enfrenta um prazo hoje para aceitar as condições ou será colocada na lista negra.

Uma entidade comercial tem o direito de determinar como os seus produtos são usados pelos militares?

Foram apresentados processos e a Anthropic foi banida do Pentágono,

sublinhado por palavras fortes do Presidente Trump e do Secretário de Defesa Pete Hegseth.

A Anthropic é gerida por um lunático ideológico que não deveria ter um...

Então, essa não é a minha pergunta. A minha pergunta é a tomada de decisões de IA sobre o que fazemos.

Importa-se de ser chamado de lunático ideológico ou de um bando de malucos de esquerda?

Hum, sabe, já me chamaram coisas piores o tempo todo.

Como é que é realmente vencer esta luta?

Nem sequer vou chamar-lhe uma luta. Isto é mais um debate sobre qual é o uso adequado da IA pelo governo.

E a IA é uma nova tecnologia emergente.

Não entendemos as formas como é fiável ou não fiável.

Não entendemos as formas como promove os nossos valores ou os mina.

E então, uma das coisas que achei importante foi estabelecer um precedente sobre alguns dos casos de uso que achamos bons,

que francamente são a maioria deles, hum, e e alguns dos casos de uso que nos preocupam.

Um oficial dos EUA disse que, com a ajuda de LLMs, os militares dos EUA passaram de serem capazes de atingir 1.000 alvos por dia para 5.000 alvos por dia.

Isso significa que Claude...

pode ajudar a matar mais pessoas mais rapidamente.

Sente-se confortável com isso?

Basicamente, está a perguntar, tipo, sabe, acredita neste país, certo?

Quer que este país seja um ator mais poderoso em vez de um ator menos poderoso no palco mundial?

Sim, quero. Sou um patriota.

Não depende de mim. Se fornecemos uma tecnologia, não nos cabe a nós dizer: pode fazer esta operação militar e não pode fazer aquela operação militar.

Agora, eu posso acreditar, em privado, que esta operação militar faz sentido e que aquela operação militar é uma má ideia.

Mas não vamos negar a tecnologia, basicamente tem de, sabe, tem de deixar a política nas mãos dos decisores militares.

A Bloomberg noticiou que o Claude está a ser usado pelos militares dos EUA na guerra no Irão.

para fazer mira assistida por IA através de uma plataforma feita pela Palantir, o Maven Smart System.

Em fevereiro, um míssil dos EUA terá atingido uma escola de raparigas no Irão, matando mais de 150 pessoas, a maioria crianças.

O Claude desempenhou um papel nesse ataque?

Não sabemos exatamente como, uhm, sabe, estes modelos foram usados.

Sabe, obviamente, tipo, sabe, estas coisas que, que, sabe, erros que acontecem na guerra são realmente, realmente terríveis, tipo, isto é uma coisa realmente terrível de acontecer.

Estávamos dispostos a arriscar o futuro da nossa empresa para, tipo, limitar como, sabe, estes modelos são usados.

E, sabe, o que, o que está a falar é um caso de uso que nem sequer viola as nossas linhas vermelhas.

Estamos preocupados que haja 100 vezes mais, sabe, com, com casos de uso que, que, que violam as nossas linhas vermelhas.

Agora, eu, sabe, eu, sabe, novamente, novamente, diria, acho que, no geral, o uso destes, o, o uso destes modelos é apropriado.

Acho que é bom no geral.

Uhm, sabe, mas os decisores militares cometem erros terríveis mesmo quando, mesmo, mesmo nos melhores momentos e eu, eu não sei se estamos nos melhores momentos.

O que vimos aqui é que o Claude assiste, mas um humano toma a decisão final. Então, um humano tomou essa decisão final, não o Claude.

Imagine se tivesse um mundo em que não o Claude, porque não o permitimos, mas o modelo de IA de outra pessoa, o modelo de IA simplesmente toma a decisão e o humano nunca a vê.

Foi por isso que nos levantámos. Foi contra isso que estávamos a lutar.

Esta escola tinha um site, podia tê-lo encontrado numa pesquisa no Google.

Tipo, o Claude não devia ter detetado isso? E isso não aponta para uma questão mais assustadora sobre usar a tecnologia como um atalho na guerra?

O princípio que foi obedecido aqui é que um humano toma a, um humano toma a decisão final.

Não sei que papel o Claude ou qualquer outra IA teve, mas se isto não é uma ilustração de porque é que esse princípio é tão importante, não sei o que é.

A guerra de IA é mais provável que pare a Terceira Guerra Mundial, uma guerra entre os EUA e a China, ou é mais provável que a faça acontecer?

Eu diria que, no geral, é mais provável que a pare.

Mas se não tivermos limites sobre como é usada, então acho que, sabe, pode ser mais provável que a cause.

Já viu o Dr. Estranhoamor, certo? A premissa era, tipo, sabe, tem um dispositivo do fim do mundo que dispara automaticamente armas nucleares quando pensa que armas nucleares estão a ser disparadas contra ele.

O que poderia correr mal, certo?

Acho que a forma como os conflitos acontecem é que, sabe, os, os dois lados atacam-se, eles não se entendem, e quando não temos a supervisão adequada desta tecnologia, acho que esses tipos de acidentes são mais prováveis de acontecer.

Agora, acho que se a IA for usada de uma forma apropriada em, em, nem mesmo na guerra, mas pense apenas na recolha de informações.

Uhm, sabe, digamos que somos capazes de, sabe, prever uma invasão de Taiwan ou um novo movimento na Ucrânia, tipo, sabe, os nossos adversários pensarão duas vezes em, uh, sabe, em conduzir algum tipo de invasão ou operação militar se soubermos tudo o que estão a fazer.

O papel da IA no campo de batalha levanta questões difíceis, mesmo para uma empresa disposta a debater os dilemas éticos da sua própria tecnologia.

É uma conversa que Amade parece ansioso para ter em público.

Como lida com a pressão?

Eu esforço-me muito para comunicar e ser sempre direto e honesto.

Apresento-me à empresa a cada duas semanas e falo durante uma hora sobre o que me preocupa, o que se passa na indústria, o que se passa no mundo exterior.

É totalmente sem censura e não só cria confiança, como é muito libertador para mim.

Onde sinto que tenho 3.000 pessoas que estão na mesma sintonia que eu.

Isso é um amplificador incrível e é uma das coisas mais úteis para lidar com a pressão.

Depois, quando temos de enfrentar um desafio externo, resistir a, sabe,

algumas situações muito difíceis que vimos nos últimos meses.

É isso que nos permite ter uma posição consistente e coerente.

E acho que é uma vantagem incrível porque nunca me sinto sozinho.

Nos bastidores da sede da Anthropic, estava o desenvolvimento surpreendente de um novo modelo de IA chamado Mythos.

Um modelo tão poderoso que assustou toda a gente.

A Anthropic está nas manchetes quase semanalmente. Mais notavelmente agora em torno do Mythos.

A empresa acredita que é esta enorme ameaça.

Imaginem um mundo onde todos tivessem uma bazuca nuclear, basicamente.

O Mythos identificou milhares de vulnerabilidades de cibersegurança, expondo potenciais falhas em todos os principais sistemas operativos.

A Anthropic sinalizou que, se fosse totalmente lançado, o Mythos poderia invadir bancos, desvendar segredos de estado e paralisar infraestruturas críticas.

Acho que o que mais me surpreendeu foi que os modelos estavam a aumentar a sua capacidade de encontrar vulnerabilidades.

Foi um salto particularmente grande.

Algumas das primeiras empresas a quem o demos disseram coisas como: 'Isto é uma super arma'.

Deveria ser preciso ter uma licença de arma para o usar.

Por favor, não lancem isto.

Numa iniciativa chamada Projeto Glasswing, a Anthropic deu acesso ao Mythos a organizações selecionadas.

Mesmo agências federais como a Agência de Segurança Nacional clamaram para o usar, apesar de a Anthropic ter sido colocada na lista negra pelo Pentágono.

Acho que o futuro é este tipo de jogo do gato e do rato, onde precisamos de garantir que os bons têm as ferramentas de que precisam para se defender.

E depois, a certa altura, os, sabe, os maus também o terão. E nesse ponto, temos de garantir que os bons têm um modelo ainda melhor para que possam estar prontos para isto.

É possível ficar à frente dos maus? A sério?

É o que esperamos.

A crítica é: 'Estão efetivamente a decidir quem tem acesso e quem não tem'.

Porque é que alguém deveria sentir-se confortável com esse tipo de concentração de poder?

Não foi tipo, 'oh, é tão poderoso e vamos decidir quem fica com o poder'.

Era uma preocupação muito específica em torno da cibersegurança.

E então, a forma como decidimos a quem dar o modelo baseou-se nesse medo específico.

Há obviamente nuances para decidir onde se traça esse círculo?

Acho que isso é muito complicado. Acho que tentámos ser o mais abertos possível publicamente para dizer, estamos a fazer o nosso melhor para tomar esta decisão bem, mas tipo, poderemos não fazê-lo perfeitamente.

E quanto às pessoas que dizem que isto foi apenas bom marketing?

Sabe, nós sofremos enormemente comercialmente por não lançar este modelo.

Este modelo acelerou incrivelmente a pesquisa dentro da Anthropic e a produção e os próximos modelos.

Faria o mesmo no mundo exterior se o lançássemos.

Isto prejudicou-nos enormemente comercialmente.

Já tiveram de fazer cedências com as quais não se sentem totalmente confortáveis?

Ao longo de toda a história da Anthropic, houve cedências.

Certo, num mundo ideal, preferiríamos, antes de lançar o primeiro chatbot, sabe, passar anos a estudar, sabe, todas as coisas possíveis que poderiam correr mal com ele.

Agora, nós atrasámos. Atrasámos o lançamento inicial do Claude.

Mas, sabe, fizemos isso por alguns meses. Então, tudo é uma cedência.

Agora que estamos, sabe, no que eu descreveria como uma posição comercialmente líder, podemos dar-nos ao luxo de mover o ponteiro ainda mais para sermos cuidadosos.

Certo, foi sobre isso que se tratou o lançamento do Mythos.

é muito difícil fazer algo assim se não fores o principal interveniente.

Há este argumento, por que razão o governo não vos assumiria? Por que razão deixariam uma empresa privada controlar uma tecnologia tão poderosa?

Portanto, eu penso, na verdade, que essa é uma questão muito, uh, muito séria e partilho essas preocupações.

Não creio que o governo nos deva assumir de forma direta.

Cada tecnologia poderosa anterior que vimos na história foi construída pelo governo ou teve origem no governo.

Assim, armas nucleares, obviamente, foram inicialmente construídas pelo governo.

A internet, GPS, telemóveis.

A IA é a primeira tecnologia que foi construída no setor privado.

E onde o governo não teve realmente um papel sério e está a chegar tarde ao jogo.

Penso que isso é, na verdade, uma situação perigosa e instável.

Não é a situação que eu teria escolhido.

Esta tecnologia, tenho medo que as empresas a tenham, mas também tenho medo que o governo a tenha.

E então, sabem, precisamos de uma regulamentação básica da tecnologia.

Sabem, cada vez mais, como vi o que vimos com o Mythos, sabem, penso que precisamos de começar a fazer testes de pré-lançamento, testes de pré-lançamento obrigatórios, testes e auditorias dos modelos.

Esta foi uma abordagem que a Casa Branca rejeitou inicialmente.

No seu primeiro dia de regresso ao cargo, o Presidente Trump, com a ajuda do ex-czar de IA e cripto, David Sachs, desmantelou a ordem executiva de IA do Presidente Biden que procurava salvaguardas.

Em vez disso, favorecendo uma abordagem de "mãos livres", deixando o Silicon Valley fazer o seu trabalho.

Acreditamos que a regulamentação excessiva do setor da IA poderia matar uma indústria transformadora, precisamente quando está a descolar.

Mas com o Mythos e as suas implicações de segurança nacional a revelarem-se difíceis de ignorar, a Casa Branca parece agora querer controlar a IA mais poderosa do mundo.

É muito engraçado para mim como há um grupo particular de pessoas no mundo da tecnologia no Silicon Valley.

Eles começaram com uma posição de, tipo, sabem, mesmo ter transparência em torno desta tecnologia, mesmo controlo de exportação, sabem, isto é tudo, sabem, totalmente, vai apocalipticamente destruir o nosso potencial para criar a tecnologia, vai matar a inovação.

E então, assim que veem o primeiro perigo real, que eu esperava há muito tempo, há toda esta conversa de nacionalização e de que o governo deveria simplesmente apoderar-se dela.

Vamos lá, pessoal, vocês estão a oscilar entre a posição mais extrema anti-regulamentar, de que se nos olharem de forma errada, estão a destruir a indústria, para, sabem, esta posição completamente comunista, de que o governo deveria tomar conta de tudo.

Nós precisamos, precisamos de uma abordagem mais sensata e moderada.

Essa é a que temos vindo a favorecer desde o início, porque compreendemos o poder desta tecnologia.

Não estamos em pânico, não a estamos a negar.

Vemos a suave exponencial e estamos a responder a ela de forma adequada.

A reação à IA neste momento é intensa.

A Anthropic construiu um seguimento muito leal.

Há algumas pessoas que simplesmente adoram o que eles defendem.

Mas também houve protestos mesmo à porta do seu escritório.

Há muita ansiedade, muita confusão.

Há uma raiva real neste momento sobre o que está a acontecer.

E, na verdade, parece que está a escalar.

A inteligência artificial é a próxima revolução industrial.

Uau!

Se olharmos para os dados, as pessoas estão mais preocupadas do que entusiasmadas com o que está a acontecer.

Elas pensam que os riscos superam os benefícios.

E a verdade é que, se falarmos com as pessoas que estão a construir isto, mesmo elas vos dirão que não sabem totalmente como tudo vai acabar.

Como pensam sobre o peso deste momento?

Preocupa-me que algo corra mal.

Sabem, estamos a fazer literalmente tudo o que podemos?

Estamos certamente a dar o nosso melhor, estamos certamente a esforçar-nos muito.

O que eu quero é criar uma situação em que, se este grupo de pessoas não conseguir fazê-lo, não poderia ser feito.

Não se pode garantir o sucesso, mas talvez se possa garantir isso.

Está a tornar-se pessoal. A casa do Sam Altman, na rua, foi atacada. Como é que isso vos está a afetar?

Foi muito assustador ler isso. Quer dizer, nós ficámos obviamente extremamente aliviados por ele e a família estarem bem.

Em geral, acho que este é um momento, sabe, tecnológica e politicamente, onde infelizmente, há muito mais

retórica e palavras que, penso eu, podem levar a maus resultados e a coisas más a acontecerem.

Espero que este seja um tópico que todos possamos debater, sabe, da forma mais pacífica possível.

Foi assustador para mim também.

Quer dizer, sabe, isto é como um aspeto menos agradável do exponencial, certo? Que à medida que a IA se torna cada vez mais uma coisa importante, sabe, torna-se um grande problema para a sociedade, há mais atenção sobre ela.

Tem havido uma reação massiva contra as redes sociais. Os países estão a começar a proibi-las. Isso poderia acontecer com a IA?

Acho que é, é absolutamente possível.

Se as empresas de redes sociais pudessem voltar no tempo e ver o mundo que veem hoje, fariam algo diferente?

Gosto de pensar que a resposta a isso é sim, não sei.

Se projetarmos alguns dos desafios que as empresas de redes sociais enfrentaram em relação ao bem-estar infantil, saúde mental, integridade eleitoral, todos estes tópicos, temos muita sorte de sermos, de sermos os segundos.

Vemos como nosso trabalho tentar pensar proativamente em todas as coisas que podem correr mal.

Porque se não o fizermos, quem o fará?

Sabe, não sei se eles realmente se propuseram a fazer a coisa certa ou a tornar o mundo um lugar melhor.

E então, não acho que se eles voltassem, eles sequer sabendo o que fazem e eles certamente deveriam fazer as coisas de forma diferente. Não sei se realmente o farão.

Mas nós podemos.

É por isso que estamos a tentar acertar isto da primeira vez, em vez de esperar que as coisas corram mal, e depois a lutar para justificar porque está tudo bem.

Onde é que se situa nesse espectro?

E se algo realmente corresse mal, então talvez mereça ser.

Espero o melhor, mas planeio para o pior.

Temos tecnólogos a dizer, vai ser incrível, e outros a dizer, pode ser horrível.

Para mim, este é o trabalho mais importante que já fiz.

A principal forma como eu veria a IA a ser, sabe, banida ou bloqueada é se algo realmente corresse mal.

Porque isto é, de certa forma, poderia significar o fim do trabalho.

E então há apenas este, este tipo de fardo.

Para algumas pessoas, parece que este é o último emprego.

Se os impactos pudessem ser tão significativos como estamos a falar, tão significativos como a Anthropic alertou.

E acho que para outras pessoas, é, sabe, talvez não seja o último emprego, mas é existencial acertar nisto.

Que responsabilidade acham que a Anthropic tem para amortecer o golpe?

Acho que a nossa visão sempre foi, nós, em última análise, somos responsáveis como indústria, a indústria que está a desenvolver esta tecnologia, por pensar

quais são os riscos, quais são as coisas más que podem acontecer, e se algumas dessas coisas se concretizarem, qual é o nosso papel em ajudar a corrigi-las?

O que devem às pessoas cujas vidas viraram do avesso?

Esse é o nosso trabalho.

Certo? Não devemos apenas dizer, bem, estávamos apenas a tentar fazer o produto crescer e de repente há uma geração inteira de jovens mulheres que têm distúrbios alimentares ou que têm problemas de saúde mental porque, ups, estávamos apenas a tentar fazer o produto crescer.

Essa não é a postura que, penso eu, qualquer empresa de tecnologia deveria adotar. Não acho que seja a postura que estamos a tentar adotar.

Queremos fazer isto bem.

Existimos como uma empresa de segurança de IA.

Como podemos simplesmente ajudar tudo isto a correr bem?

Pode ser difícil entender porque é que a Anthropic está a esforçar-se tanto para avançar a IA, ao mesmo tempo que é tão transparente sobre os perigos.

Nos seus ensaios, Dario descreve como seria o resultado final se tudo corresse bem com a IA.

Um futuro utópico onde máquinas e humanos trabalham lado a lado.

IA, uma força inevitável, direcionada para a prosperidade em vez da catástrofe.

Para mitigar a devastação da perda de empregos, ele propõe soluções como o rendimento básico universal e a tributação progressiva das empresas de IA.

Mas à medida que os Omidy's confrontam as realidades confusas do poder, da política e do lucro,

o verdadeiro teste é se essa missão fundadora consegue sobreviver à escala do que estão a construir.

A Google começou com o lema, não sejas mau.

Uma promessa fundadora que a empresa silenciosamente abandonou à medida que crescia.

Estão a construir algo incrivelmente poderoso e podem ganhar enormemente com isso.

Porque é que devemos confiar em vocês?

Acho que começar de uma posição de desconfiança, sabem, se não sabem nada sobre mim, se não sabem nada sobre a Anthropic, é bastante racional.

Acho que o Silicon Valley perdeu grande parte da confiança do mundo e tem, de certa forma, de a reconquistar.

E a mensagem, sabem, que estamos a tentar enviar é que somos realmente diferentes e isso tem de ser conquistado nas coisas que realmente fazemos.

Percebo que um dos seus livros favoritos é A Criação da Bomba Atómica.

Está correto.

Vê paralelos entre si e Oppenheimer?

A figura com quem mais me identifiquei foi Leo Szilard,

que foi quem primeiro teve a ideia de que poderia haver uma reação em cadeia.

Olhem, a minha opinião é que não vamos conseguir passar por isto com personalidades maiores que a vida ou figuras que tentam estar no centro de tudo.

De certa forma, vejo Oppenheimer como um caso de falhanço, como algo que não deveria acontecer.

Há muitos atores poderosos com interesses aqui e a única forma de isto acabar bem para todos é se houver, basicamente, pesos e contrapesos em todo o lado.

Disse que há aproximadamente uma probabilidade de 10 a 25% de colapso civilizacional.

Isso não é insignificante.

Há algum cenário em que foi algo que a Anthropic construiu que causou isso?

Ah, quero dizer, certamente espero que não.

A minha opinião é que essa probabilidade vem da receita muito direta da tecnologia, da existência de muitos países no mundo, da existência de muitas empresas dentro de uma economia, novas criadas se o vazio não for preenchido.

É esse o dilema em que estamos.

Metade do que fazemos dentro da empresa é tentar, sabem, reduzir o risco o máximo que podemos.

Mas nunca será zero.

Suponham que há um monte de, sabem, companhias aéreas por aí e vocês pensam, bem, vou criar uma companhia aérea que seja mais segura.

Pode ser que, sabem, a vossa companhia aérea seja 10 vezes mais segura do que todas as outras companhias aéreas,

mas se alguém vier e vos perguntar, tipo, podem garantir que o vosso avião nunca vai cair, quero dizer, como poderiam, como poderiam possivelmente?

Mas se houvesse 25% de hipóteses de um avião cair, não entraria nesse avião.

Isso mesmo, 25% é demasiado alto. Estamos a tentar tornar essa probabilidade muito, muito mais baixa.

Esse é, esse é o objetivo.

Como é que encontra o seu zen? Como é que relaxa?

Ah, sabem, honestamente, muito disso é apenas exposição a isso, sabem.

Às vezes, eu simplesmente, sabem, tiro um fim de semana e jogo alguns videojogos.

Às vezes com a Daniela.

Eu e a minha esposa vamos a Itália às vezes.

Hum, ah, temos um cavalo lá, então eu simplesmente, eu simplesmente sento-me ao lado, eu simplesmente, eu simplesmente olho para o nosso cavalo e penso,

sabem, Calypso, que é o nosso cavalo, tipo, sabem, ela não sabe nada disto. Tipo, ela é só um cavalo feliz, tipo.

TM & © 2026 Bloomberg L.P. Todos os direitos reservados.

Bloomberg Originals