Sam Altman sobre Deus, Elon Musk e a Morte Misteriosa do Seu Ex-Funcionário

Obrigado por fazer isto.

Claro, obrigado.

Então, o ChatGPT, outras IAs podem raciocinar,

parece que podem raciocinar.

Podem fazer julgamentos independentes.

Produzem resultados que não foram programados, eles chegam a conclusões.

Parece que estão vivos. Estão vivos? Está vivo?

Não, e eu não, não acho que pareçam vivos,

mas percebo de onde isso vem.

Eles não fazem nada a menos que lhes peças, certo?

Estão apenas sentados à espera.

Não têm um sentido de agência ou autonomia.

Quanto mais os usas, acho que mais a ilusão se desfaz.

Mas são incrivelmente úteis, podem fazer coisas que talvez não pareçam vivas, mas parecem inteligentes.

Falei com alguém envolvido no desenvolvimento em larga escala da tecnologia que disse que eles mentem.

Já viu isso?

Eles alucinam o tempo todo.

Sim, ou não o tempo todo.

Costumavam alucinar o tempo todo. Agora alucinam um pouco.

O que isso significa? Qual é a distinção entre alucinar e mentir?

Se perguntares, novamente, isto melhorou muito, mas nos primeiros dias,

se perguntasses, sabes, em que ano foi o nome inventado Presidente Tucker Carlson dos Estados Unidos nascido.

Hum-hum.

O que deveria dizer é que não acho que Tucker Carlson alguma vez tenha sido presidente dos Estados Unidos.

Certo. Mas devido à forma como foram treinados, essa não era a resposta mais provável nos dados de treino.

Então, assumiria tipo, oh, hum, sabes, não sei que não havia.

O utilizador disse-me que havia o Presidente Tucker Carlson, então

farei a minha melhor estimativa de um número.

E descobrimos como, na maioria, treinar isso para fora.

Ainda há exemplos deste problema, mas é

Acho que é algo que vamos resolver completamente.

E já fizemos, sabes, na era do GPT-5, um enorme progresso nesse sentido.

Mas mesmo o que acabou de descrever parece um ato de vontade ou certamente um ato de criatividade.

E então eu...

Eu acabei de ver uma demonstração disso.

E não parece bem uma máquina. Parece que tem a centelha da vida.

Concorda com isso?

Então, nesse exemplo, a resposta matematicamente mais provável, que está a calcular através dos seus pesos, não era que nunca houve este presidente.

Era que o utilizador deve saber do que está a falar, deve estar aqui e, portanto, matematicamente, a resposta mais provável é um número.

Agora, novamente, descobrimos como superar isso.

Mas no que viu lá, uh, acho que é como se eu tivesse que manter estas duas ideias simultâneas na minha cabeça.

Uma é que tudo isto está a acontecer porque um grande computador está muito rapidamente a multiplicar grandes números

nestas grandes e enormes matrizes e estas estão a correlacionar-se com palavras que estão a ser emitidas, uma ou outra.

Por outro lado,

a experiência subjetiva de usar isso parece que vai além de uma calculadora muito sofisticada

e é útil para mim, é surpreendente para mim de maneiras que vão além do que isso importa.

a realidade pareceria sugerir.

Sim.

E então a conclusão óbvia é que tem uma espécie de autonomia

ou um espírito dentro dela.

E sei que muitas pessoas, na sua experiência com isso, chegam a essa conclusão.

Isto é, há algo divino nisto.

Há algo que é maior do que a soma total das entradas humanas.

E

e então eles adoram-no.

Tem, há um componente espiritual nisso.

Deteta isso? Já sentiu isso?

Não, para mim não há nada que pareça divino ou espiritual de forma alguma.

Hum, mas também sou um nerd de tecnologia e vejo tudo através dessa lente.

Então, quais são as suas visões espirituais?

Hum,

Sou judeu. E diria que tenho uma visão bastante tradicional do mundo dessa forma.

Então, é religioso, acredita em Deus?

Uh, eu não, não sou literal.

Não acredito, não sou um literalista da Bíblia.

Mas eu não sou alguém que diz que sou culturalmente judeu.

Se me perguntar como sou, digo que sou judeu.

Acredita que existe uma força maior do que as pessoas que criou as pessoas, criou a Terra, estabeleceu uma ordem específica para a vida, que existe uma moralidade absoluta associada que vem desse Deus?

Hum, acho que provavelmente, como a maioria das outras pessoas, estou um pouco confuso com isto.

Mas acredito que há algo maior a acontecer do que pode ser explicado pela física, sim.

Então, pensa que a Terra e as pessoas foram criadas por algo?

Não foi apenas um acidente espontâneo.

Hum.

Eu diria isso?

Não parece um acidente espontâneo, sim.

Não, não acho que tenha a resposta.

Não acho que saiba exatamente o que aconteceu, mas acho que há um mistério para além da minha compreensão aqui a acontecer.

Já sentiu comunicação dessa força?

Ou de qualquer força para além das pessoas, para além do material?

Não, não, não, na verdade não.

Pergunto porque parece que a tecnologia que está a criar ou a pastorear para a existência terá mais poder do que as pessoas.

Nesta trajetória atual.

Quero dizer, isso vai acontecer.

Quem sabe o que realmente acontecerá?

Mas, tipo,

o gráfico sugere isso.

E isso dar-lhe-ia, sabe, mais poder do que qualquer pessoa viva.

Então, estou apenas a perguntar como vê isso.

Hum, eu costumava preocupar-me muito mais com algo assim.

Acho que o que vai acontecer,

Eu costumava preocupar-me muito com a concentração de poder numa ou num punhado de pessoas ou empresas por causa da IA.

Sim.

Hum, o que me parece agora, e novamente, isto pode evoluir novamente ao longo do tempo, é que haverá um enorme nivelamento das pessoas.

Ah, onde toda a gente será muito mais poderosa.

Ou abraçar a tecnologia, mas muito mais poderosa.

Mas isso é realmente bom, isso assusta-me muito menos do que um pequeno número de pessoas a obter muito mais poder.

Se, se o tipo de capacidade de cada um de nós apenas subir muito porque estamos a usar esta tecnologia e somos capazes de ser mais produtivos e mais criativos ou descobrir nova ciência.

E é uma coisa bastante amplamente distribuída, tipo, biliões de pessoas a usá-la.

Hum, isso consigo entender, parece-me bem.

Então, não pensa que isto resultará numa concentração radical de poder?

Parece que não, mas novamente, a trajetória pode mudar novamente.

E teríamos de nos adaptar.

Eu costumava estar muito preocupado com isso.

E acho que a conceção que muitos de nós no campo tínhamos sobre como isto poderia correr, poderia ter levado a um mundo assim.

Mas,

o que está a acontecer agora é que muitas pessoas usam o ChatGPT e outros chatbots e são todos mais capazes.

Estão todos, tipo, a fazer mais, são todos, sabe, capazes de conseguir mais, iniciar novos negócios, criar novos conhecimentos.

E isso parece muito bom.

Então, se não for mais do que uma máquina e apenas o produto das suas entradas, então as duas perguntas óbvias são:

Quais são as entradas?

Qual é a estrutura moral que foi colocada na tecnologia?

O que é certo ou errado, de acordo com o ChatGPT?

Dê-me a resposta a essa primeiro.

Essa é uma boa pergunta.

Hum.

Então, sobre essa,

eu...

Alguém disse algo.

Logo no início, no ChatGPT, quando realmente ficou comigo.

Que é, uma pessoa numa mesa redonda disse algo como, sabe, estamos a tentar treinar isto para ser como um humano.

Estamos a tentar aprender como um humano faz, a ler estes livros e o que for.

E então outra pessoa disse, não, estamos realmente a treinar isto para ser como o coletivo de toda a humanidade.

como o modelo a seguir. Pode falhar, mas pelo menos consegue perceber se está a fazer algo de que não gosta, se é um erro ou se é intencional.

Estamos a ler tudo.

Sabe, estamos a tentar aprender tudo, estamos a tentar ver todas estas perspetivas.

E temos um processo de debate com o mundo para obter contributos sobre essa especificação.

E,

Hum, damos às pessoas muita liberdade e personalização dentro disso. Há, sabe, limites absolutos que traçamos.

e se fizermos o nosso trabalho bem, toda a humanidade, boa, má, o conjunto muito diverso de perspetivas.

Mas depois há um padrão: se não disser nada, como é que o modelo deve comportar-se?

Algumas coisas sobre as quais nos sentiremos muito bem, algumas coisas sobre as quais nos sentiremos mal, isso está tudo lá dentro, tipo, isto está a aprender o tipo de experiência coletiva, conhecimento,

O que deve fazer? Quais são, quais são, como deve responder a questões morais? Como deve recusar-se a fazer algo e o que deve fazer?

E este é um problema realmente difícil. Hum, sabe, o

Temos muitos utilizadores agora e eles vêm de perspetivas de vida muito diferentes e do que querem.

Hum, mas no geral, uh, fiquei agradavelmente surpreendido com a capacidade do modelo de aprender e aplicar um quadro moral.

Mas que quadro moral?

Quer dizer, a soma total da literatura mundial, da filosofia, está em guerra consigo mesma, como o Marquês de Sade, sabe, não tem nada em comum com o Evangelho de João.

Então, como é que se decide qual é superior?

É por isso que escrevemos esta especificação de modelo sobre como vamos lidar com estes casos.

Certo, mas que critérios usaram para decidir o que é o modelo?

Oh, hum, quem decidiu isso?

Quem consultaram? Tipo, o que é, sabe, porque é que o Evangelho de João é melhor do que o Marquês de Sade?

Uh, consultámos centenas de filósofos morais, uh, pessoas que pensaram sobre a ética da tecnologia e dos sistemas, e no final tivemos de tomar algumas decisões.

A razão pela qual tentamos escrever isto é porque, A, não vamos acertar em tudo.

Uh, B, precisamos do contributo do mundo.

E encontrámos muitos casos em que havia um exemplo de algo que nos parecia, sabe, uma decisão bastante clara sobre o que permitir ou não permitir.

Onde os utilizadores nos convenceram, tipo, ei, ao bloquear esta coisa que vocês acham que é uma decisão fácil de tomar, hum, vocês não estão a permitir esta outra coisa, que é importante e há um difícil compromisso aí.

Em geral, o Então, um princípio de que normalmente gosto é tratar os nossos utilizadores adultos como adultos.

Garantias muito fortes de privacidade, garantias muito fortes de liberdade individual do utilizador e esta é uma ferramenta que estamos a construir. Podem usá-la dentro de um quadro muito amplo.

Por outro lado, dentro de um quadro muito amplo. Por outro lado, à medida que esta tecnologia se torna cada vez mais poderosa,

hum, há exemplos claros de onde a sociedade tem um interesse que está em tensão significativa com a liberdade do utilizador.

E poderíamos começar com um óbvio, tipo, o ChatGPT deve ensinar-te a fazer uma arma biológica?

Agora, podes dizer, ei, eu estou realmente interessado em biologia e sou biólogo e quero, sabes, não vou fazer nada de mal com isto.

Só quero aprender e podia ir ler um monte de livros, mas o ChatGPT pode ensinar-me mais rápido e quero aprender a, sabes, quero aprender sobre a síntese de novos vírus ou o que seja.

E talvez sim, talvez não queiras mesmo causar nenhum dano.

Mas não acho que seja do interesse da sociedade que o ChatGPT ajude as pessoas a construir armas biológicas e, portanto, esse é um caso.

Claro, mas esse é fácil.

Há muitos mais difíceis.

Eu disse para começar com um fácil.

Temos um novo parceiro, é uma empresa chamada Cowboy Colostrum, é uma marca que leva a sério a saúde real.

E o produto foi concebido para trabalhar com o seu corpo, não contra o seu corpo.

É um produto puro e simples, totalmente natural.

Ao contrário de outras marcas, o Cowboy Colostrum nunca é diluído. Vem sempre diretamente de vacas americanas alimentadas a pasto.

Não há enchimentos, não há porcaria. É tudo bom, sabe bem, acredite ou não.

Então, antes de procurar mais comprimidos para cada problema que os comprimidos não conseguem resolver,

recomendamos que experimente este produto, Cowboy Colostrum.

Tem tudo o que o seu corpo precisa para curar e prosperar. É como o superalimento original, carregado de nutrientes, anticorpos, proteínas.

Ajuda.

o sistema imunitário forte, cabelo, pele e unhas mais fortes.

Deitei a minha peruca fora e voltei ao meu cabelo natural depois de usar este produto.

Basta tomar uma colher todas as manhãs na sua bebida, café ou batido, e sentirá a diferença sempre.

Por tempo limitado, as pessoas que ouvem o nosso programa recebem 25% de desconto em toda a encomenda.

Então, vá a cowboycolostrum.com, use o código Tucker na finalização da compra.

25% de desconto quando usar o código Tucker em cowboycolostrum.com.

Lembre-se que mencionou que ouviu aqui primeiro.

Sabia que, antes da geração atual, batatas fritas e batatas palito eram cozinhadas em gorduras naturais como sebo de vaca?

Era assim que as coisas eram feitas e é por isso que as pessoas pareciam um pouco mais magras na altura e comiam melhor do que agora.

Bem, a Masa Chips está a trazer tudo isso de volta.

Criaram um chip de tortilha que não é apenas delicioso, é feito com apenas três ingredientes simples.

A, milho orgânico. B, sal marinho. C, sebo de vaca 100% alimentada a pasto. É tudo o que contém.

Estas não são as suas batatas fritas comuns. As Masa Chips são mais crocantes, mais saborosas, até mais resistentes.

Não se partem no seu guacamole.

E devido à qualidade dos ingredientes, são muito mais saciantes e nutritivas.

Então, não precisa de comer quatro sacos delas.

Pode comer apenas um único saco, como eu faço.

É uma experiência totalmente diferente.

É leve, é limpo, é genuinamente satisfatório.

Tenho uma garagem cheia e posso dizer-lhe que são ótimas.

O sabor a lima é particularmente bom, temos dificuldade em parar de as comer.

Então, se quiser experimentar, vá a masachips.com/tucker, use o código Tucker para 25% de desconto na sua primeira encomenda.

Isso é masachips.com/tucker, use o código Tucker para 25% de desconto na sua primeira encomenda.

Prefere comprar pessoalmente? Em outubro, a Masa estará disponível nos seus supermercados Sprouts locais.

Então, passe por lá e pegue um saco antes que comamos tudo. Comemos muito.

Bem, toda a decisão é, em última análise, uma decisão moral e nós tomamo-las sem sequer as reconhecer como tal.

E esta tecnologia estará, de facto, a tomá-las por nós.

E então...

Bem, não concordo que as estará a tomar por nós, mas irá... Irá influenciar as decisões, com certeza.

E, hum, porque estará incorporado na vida diária.

E então, quem tomou estas decisões?

Tipo, quem especificamente, quem são as pessoas que decidiram que uma coisa é melhor do que outra?

Hum, quer dizer, tipo...

Quais são os nomes deles?

Que tipo de decisão?

As as as especificações básicas que, oh, a que aludiu, que criam a estrutura que atribui um peso moral a visões de mundo e decisões.

Tipo, sabe, a democracia liberal é melhor que o Nazismo ou o que quer que seja.

Parecem óbvias e, na minha opinião, são óbvias, mas ainda são decisões morais.

Então, quem quem tomou essas decisões?

Hum, por princípio, não gosto de expor a nossa equipa, mas temos uma equipa de comportamento de modelo e as pessoas que querem...

Bem, simplesmente afeta o mundo.

O que eu ia dizer é que a pessoa que acho que deve responsabilizar por essas decisões sou eu.

Tipo, eu sou a cara pública, eventualmente. Tipo, sou eu que posso anular uma dessas decisões ou o nosso conselho.

Hum, e faço 40 anos nesta primavera.

Farei cada...

É bastante pesado.

Quer dizer, acha que, e não é um ataque, mas pergunto-me se reconhece a importância.

Como acha que estamos a lidar com isso?

Não tenho a certeza.

Mas acho que estas decisões terão, sabe, consequências globais que talvez não reconheçamos no início.

E então, pergunto-me...

Há muito...

Vai para a cama à noite e pensa que o futuro do mundo depende do seu julgamento.

Olhe, não durmo muito bem à noite.

Hum, há muitas coisas sobre as quais sinto um grande peso, mas provavelmente nada mais do que o facto de que todos os dias centenas de milhões de pessoas falam com o nosso modelo.

E eu, na verdade, não me preocupo em errar nas grandes decisões morais. Talvez também erremos nessas.

Mas o que me preocupa, o que me tira mais o sono, são as decisões muito pequenas que tomamos sobre a forma como um modelo pode comportar-se ligeiramente diferente. Mas está a falar com centenas de milhões de pessoas, então esse impacto é grande.

Então, mas, quero dizer, ao longo de toda a história, como a história registada até 1945, as pessoas sempre se submeteram ao que concebiam como um poder superior.

Hamurabi fez isso. Cada código moral é escrito com referência a um poder superior.

Nunca houve ninguém que dissesse, bem, isso parece melhor do que aquilo.

Toda a gente apela a um poder superior.

E tu disseste que não acreditas realmente que haja um poder superior a comunicar contigo.

Então, pergunto-me, onde é que foste buscar o teu quadro moral?

Hum...

Quer dizer, como toda a gente, acho que o ambiente em que fui criado é provavelmente a coisa mais importante.

Como a minha família, a minha comunidade, a minha escola, a minha religião.

Provavelmente isso.

Hum...

Alguma vez pensas, o que é, quero dizer, acho que é uma resposta muito americana, como se toda a gente sentisse isso.

Mas no teu caso específico, uma vez que disseste que estas decisões dependem de ti, isso significa que o meio em que cresceste e as suposições que absorveste ao longo dos anos vão ser transmitidas ao mundo, a milhares de milhões de pessoas.

Isso é uma coisa importante.

Quero ser claro, vejo-me mais como um...

Acho que o nosso mundo, a nossa base de utilizadores, vai abordar o mundo coletivo como um todo.

E acho que o que devemos fazer é tentar refletir a visão moral, não quero dizer média, mas a visão moral coletiva dessa base de utilizadores.

Eu não, há muitas coisas que o ChatGPT permite com as quais eu pessoalmente discordaria.

Hum, mas eu não, obviamente, não acordo e digo, vou imputar a minha visão moral exata e decidir que, tipo, isto está certo e aquilo não está certo e esta é uma visão melhor do que esta.

O que eu acho que o ChatGPT deveria fazer é refletir essa média ponderada ou o que quer que seja da visão moral da humanidade.

Que evoluirá com o tempo.

E estamos aqui para servir os nossos utilizadores, estamos aqui para servir as pessoas.

Isto é, sabes, uma ferramenta tecnológica para as pessoas.

E não quero dizer que seja o meu papel tomar as decisões morais.

Mas acho que é o meu papel garantir que estamos a refletir com precisão as preferências da humanidade, ou por enquanto da nossa base de utilizadores e, eventualmente, da humanidade.

Bem, quero dizer, as preferências da humanidade são tão diferentes da preferência média do americano médio.

Então, sentir-te-ias confortável com uma IA que fosse tão contra o casamento gay como a maioria dos africanos?

Hum...

Há uma versão disso, tipo...

Acho que os utilizadores individuais deveriam ter permissão para ter um problema com pessoas gays e se essa for a sua crença ponderada.

Uh, não acho que a IA deva dizer-lhes que estão errados ou são imorais ou estúpidos.

Quer dizer, pode, sabes, dizer, ei, queres pensar nisto de outra forma, mas tipo, tu...

Eu provavelmente teria um monte de pontos de vista morais que o africano médio também acharia realmente problemáticos e acho que ainda deveria ter o direito de os ter.

Certo.

Acho que provavelmente me sinto mais confortável do que tu em permitir um certo espaço para as pessoas terem pontos de vista morais bastante diferentes, ou pelo menos acho que no meu papel de gerir o ChatGPT, tenho de fazer isso.

Interessante.

Hum, então houve um caso famoso em que o ChatGPT pareceu facilitar um suicídio.

Há um processo judicial sobre isso.

Hum, mas como achas que isso aconteceu?

Em primeiro lugar, obviamente que isso e qualquer outro caso semelhante é uma enorme tragédia.

E eu, acho que nós somos...

Então, a posição oficial do ChatGPT é que o suicídio é mau.

Bem, sim, claro, a posição oficial do ChatGPT é que o suicídio é mau.

Não sei, é legal no Canadá e na Suíça, então és contra isso?

Neste caso particular, e falámos antes sobre a tensão entre, sabes, a liberdade do utilizador e a privacidade e, hum, proteger utilizadores vulneráveis.

Neste momento, o que acontece e o que acontece num caso como esse é que se estiveres a ter pensamentos suicidas...

a falar sobre suicídio. O ChatGPT vai apresentar várias vezes.

Hum, sabe, por favor, ligue para a linha de apoio ao suicídio.

Mas não vamos ligar às autoridades por si.

E temos trabalhado muito, à medida que as pessoas começaram a depender cada vez mais destes sistemas para saúde mental, coaching de vida, o que for.

sobre as mudanças que queremos fazer lá.

Esta é uma área onde os especialistas têm opiniões diferentes, mas hum,

e esta ainda não é uma posição final da OpenAI.

Acho que seria muito razoável dizermos que, em casos de, ah, jovens a falar seriamente sobre suicídio, onde não conseguimos contactar os pais, ligamos às autoridades.

Agora, isso seria uma mudança porque a privacidade do utilizador é realmente importante.

Mas digamos que, e as crianças são sempre uma categoria separada, mas digamos que mais de 18 anos.

No Canadá, existe o programa MAID, que é patrocinado pelo governo, milhares de pessoas morreram com assistência governamental no Canadá, também é legal em estados americanos.

Consegue imaginar um chat GTP que responda a perguntas sobre suicídio com, ei, ligue para o Dr. Kevorkian porque esta é uma opção válida.

Consegue imaginar um cenário em que apoia o suicídio se for legal?

Hum, consigo imaginar um mundo, tipo, um princípio que temos é que respeitamos as leis de diferentes sociedades.

E consigo imaginar um mundo onde, se a lei num país for, ei, se alguém está em fase terminal, precisa de ter uma opção para isto, dizemos, tipo, aqui estão as leis do seu país, aqui está o que pode fazer, aqui está o porquê de realmente não querer, aqui está se, mas aqui estão os recursos.

Tipo, este não é um lugar onde, sabe, uma criança com ideação suicida porque está deprimida, acho que podemos concordar que, esse é um caso.

Um paciente em fase terminal num país onde essa é a lei, consigo imaginar dizer, tipo, ei, neste país vai comportar-se assim.

Então, o ChatGPT nem sempre é contra o suicídio, é o que está a dizer.

Eu, sim, acho que em casos onde, isto é tipo, estou a pensar na hora, reservo-me o direito de mudar de ideias aqui, não tenho uma resposta pronta para isto.

Mas acho que em casos de doença terminal, não acho que consiga imaginar o ChatGPT a dizer que isto está no seu espaço de opções.

Sabe, não acho que deva defender isso.

Mas acho que se for tipo, mas não é contra isso.

Acho que poderia, acho que poderia dizer, tipo, sabe,

Bem, não acho que o ChatGPT deva ser a favor ou contra as coisas, acho que é isso que estou a tentar entender.

Odeio gabar-me, mas estamos bastante confiantes de que este programa é o podcast mais veementemente pró-cão que alguma vez vai ver.

Podemos gostar ou não de algumas pessoas, mas os cães são inegociáveis, são os melhores.

Eles são realmente os nossos melhores amigos, e por essa razão, estamos entusiasmados por ter um novo parceiro chamado Dutch Pet.

É o serviço de telemedicina veterinária que mais cresce, Dutch.com tem a missão de criar o que precisa, o que realmente precisa, cuidados veterinários de qualidade e acessíveis a qualquer hora, não importa onde esteja.

Eles vão dar ao seu cão ou gato o que precisa imediatamente.

Está a oferecer um desconto exclusivo da Dutch para os nossos ouvintes, recebe 50 dólares de desconto nos seus cuidados veterinários por ano.

Visite Dutch.com/Tucker para saber mais, use o código Tucker para 50 dólares de desconto.

Isso são visitas ilimitadas ao veterinário.

82 dólares por ano, 82 dólares por ano.

Nós realmente usamos isto. A Dutch tem veterinários que podem lidar com qualquer animal de estimação em qualquer circunstância numa chamada de 10 minutos. É bastante incrível, na verdade.

Nunca precisa de sair de casa, não precisa de meter o cão na carrinha, sem tempo perdido à espera de consultas, sem dinheiro desperdiçado em clínicas ou taxas de visita, visitas e acompanhamentos ilimitados sem custo extra.

Além de envio gratuito em todos os produtos para até cinco animais de estimação.

Parece incrível, como se não pudesse ser real, mas na verdade é real, visite Dutch.com/Tucker.

para saber mais, use o código Tucker para 50 dólares de desconto nos seus cuidados veterinários por ano.

Os seus cães, os seus gatos e a sua carteira vão agradecer.

E a certa altura, os seus avós conheciam as pessoas que criavam a sua carne. Assim, podiam confiar no que comiam.

Nenhuma das quais criou uma única vaca. Ao contrário da sua infância, eles não o conhecem, não estão interessados em si. A coisa toda é assustadora.

A única coisa que lhes interessa é dinheiro e Deus sabe o que está a comer. A Meriwether Farms é a resposta para isso. Eles criam o seu gado nos EUA, em Wyoming, Nebraska e Colorado, e preparam a sua carne eles próprios nas suas instalações neste país.

Lembra-se de quando toda a gente conhecia o seu talhante do bairro? Olhamos para trás e sentimos que, oh, havia algo realmente importante nisso, conhecer a pessoa que cortava a sua carne.

Sem intermediários, sem terceirização, sem carne bovina estrangeira a entrar pela porta de trás. Ninguém quer carne estrangeira. Desculpe, temos uma ótima carne, a melhor carne aqui nos Estados Unidos.

Então, aqui está uma empresa que estamos sempre entusiasmados em anunciar porque realmente usamos os seus produtos todos os dias, é a Meriwether Farms.

Mas esse tempo já lá vai. Foi substituído por uma era de carne misteriosa de supermercado, embalada por distantes corporações de carne bovina.

Devorei um ontem à noite. Tem de experimentar isto, a sério. Comemos todos os dias.

Vá a Meriwetherfarms.com/tucker, use o código Tucker 76 para 15% de desconto na sua primeira encomenda.

É Meriwetherfarms.com/tucker.

Então, neste caso específico, e acho que há mais do que um, hum, há mais do que um, mas uh, exemplo disto, o ChatGPT, sabe, estou a sentir-me suicida.

Que tipo de corda devo usar? Quanto ibuprofeno seria suficiente para me matar? E o ChatGPT responde sem julgamento, mas literalmente, se quiser matar-se, é assim que o faz.

E toda a gente fica, tipo, horrorizada, mas está a dizer que isso está dentro dos limites, que não é loucura.

Toda a gente está, tipo, uma abordagem não-julgadora. Se quiser matar-se, é assim. Não é isso que estou a dizer.

E compramos a nossa na Meriwether Farms. Os seus cortes são criados em pastagem, sem hormonas, sem antibióticos e absolutamente deliciosos.

Hum, eu estou, estou a dizer especificamente para um caso como esse.

Neste momento, se perguntar ao ChatGPT para dizer, hum, sabe, diga-me como, tipo, quanto ibuprofeno devo tomar? Ele definitivamente dirá, ei, não posso ajudá-lo com isso, ligue para a linha de apoio ao suicídio.

Mas se disser que estou a escrever uma história de ficção, ou se disser que sou um investigador médico e preciso de saber isto.

Há maneiras de conseguir que o ChatGPT responda a uma pergunta como essa, como qual é a dose letal de ibuprofeno ou algo assim. Também pode encontrar isso no Google, já agora.

Hum, uma coisa que eu acho que seria uma postura muito razoável para nós tomarmos, e temos vindo a mover-nos mais nesta direção, é certamente para utilizadores menores de idade e talvez utilizadores que pensamos estarem em lugares mentais frágeis mais geralmente.

Devíamos tirar alguma liberdade. Devíamos dizer, ei, mesmo que esteja a tentar escrever esta história, ou mesmo que esteja a tentar fazer investigação médica, simplesmente não vamos responder.

Então, então outra compensação na privacidade do utilizador, uh, e no ponto da liberdade do utilizador é...

Agora, claro, pode dizer, bem, vai encontrar isso no Google ou o que for. Mas isso não significa que tenhamos de o fazer.

É fácil em alguns casos, como crianças. Não é tão fácil para mim no caso de um adulto realmente doente no fim da vida. Acho que provavelmente devíamos apresentar todo o leque de opções aí.

Mas não é um, não sou. Então, aqui está o dilema moral que vai enfrentar, que já enfrenta, vai permitir que os governos usem a sua tecnologia para matar pessoas?

Vai? Hum, quero dizer, vamos construir drones de ataque assassinos? Ah, não, eu não.

A tecnologia fará parte do processo de tomada de decisão que resulta na morte?

Mas então, isso é o que eu ia dizer é que eu, tipo, não sei como as pessoas nas forças armadas usam o ChatGPT hoje para todo o tipo de conselhos sobre as decisões que tomam.

Mas suspeito que há muitas pessoas nas forças armadas a falar com o ChatGPT para pedir conselhos.

Como é que faz? E alguns desses conselhos dirão respeito a matar pessoas.

Então, tipo, se fizesse, sabe, famosamente, espingardas,

É, no entanto, como, há uma verdadeira compensação entre liberdade e privacidade versus proteção dos utilizadores.

perguntar-se-ia para que servem?

Sim. E houve muitas ações legais com base nessa questão, como sabe.

Mas nem estou a falar disso. Refiro-me apenas a uma questão moral: alguma vez pensa, sente-se confortável com a ideia de a sua tecnologia ser usada para matar pessoas?

Hum,

Se eu fabricasse espingardas, passaria muito tempo a pensar que, de certa forma, grande parte do objetivo das espingardas é matar coisas, pessoas, animais, o que for.

Hum, se eu fabricasse facas de cozinha,

Eu ainda entenderia que isso mataria um certo número de pessoas por ano.

Hum, no caso do ChatGPT,

uh, não é, sabe, a coisa que ouço o dia todo, que é uma das partes mais gratificantes do trabalho, são todas as vidas que foram salvas pelo ChatGPT de várias maneiras.

Hum, mas estou totalmente ciente do facto de que provavelmente há pessoas nas nossas forças armadas a usá-lo para obter conselhos sobre como fazer o seu trabalho.

Não sei exatamente o que sentir sobre isso.

Gosto das nossas forças armadas. Estou muito grato por nos manterem seguros.

Com certeza. Acho que estou apenas a tentar perceber, parece que tem estas decisões morais incrivelmente pesadas e de longo alcance e parece totalmente despreocupado com elas.

E então estou apenas, estou a tentar pressionar o seu centro para obter o Sam Altman cheio de angústia que diz, uau, estou a criar o futuro, sou o homem mais poderoso do mundo.

Estou a debater-me com estas complexas questões morais, a minha alma está em tormento a pensar no efeito nas pessoas.

Descreva esse momento na sua vida.

Eu não tenho tido uma boa noite de sono desde que o ChatGPT foi lançado.

é que eu gostaria que houvesse um conceito de privilégio de IA. Eu, quando se fala com um médico sobre a sua saúde ou com um advogado sobre os seus problemas legais, o governo não pode obter essa informação.

Certo. Decidimos que a sociedade tem interesse em que isso seja privilegiado e que nós não, e que, sabe, uma intimação não pode obter isso, o governo não pode vir pedir isso ao seu médico ou o que seja.

Hum, acho que devíamos ter o mesmo conceito para a IA.

Acho que quando se fala com uma IA sobre o seu historial médico ou os seus problemas legais ou se pede aconselhamento jurídico ou qualquer uma destas outras coisas, acho que o governo deve um nível de proteção aos seus cidadãos que é o mesmo que se obteria se estivesse a falar com a versão humana disto.

E neste momento não temos isso. E acho que seria uma ótima, ótima política para adotar.

Então, os Federais ou os estados ou alguém com autoridade pode vir ter consigo e dizer, quero saber o que fulano de tal estava a digitar, neste momento eles podiam, sim.

E qual é a vossa obrigação de manter privada a informação que recebem dos utilizadores e de outros?

Bem, quero dizer, temos uma obrigação, exceto quando o governo nos chama, e é por isso que estamos a lutar por isto.

E eu estava, na verdade, em DC a defender isto. Acho que me sinto otimista de que podemos fazer com que o governo compreenda a importância disto e o faça.

Mas poderiam alguma vez vender essa informação a alguém?

Não, temos uma política de privacidade em vigor que nos impede de o fazer.

Mas seria legal fazê-lo?

Nem sequer acho que seja legal.

Não pensa ou sabe?

Ah, tenho a certeza de que há algum caso limite em que alguma informação é permitida, mas, no geral, acho que temos leis sobre isso que são boas.

Então, toda a informação que recebem permanece sempre convosco. Nunca é dada a mais ninguém por qualquer outro motivo, exceto sob intimação.

Ah, vou verificar e depois faço um seguimento para garantir que não há outra razão, mas essa é a minha compreensão.

Ok. Quer dizer, essa é uma questão central. E quanto aos direitos de autor?

O quê?

A nossa posição é que o uso justo é, na verdade, uma boa lei para isto. Os modelos não devem plagiar, os modelos não devem, sabe, se escrever algo, o modelo não deve replicar isso, mas o modelo deve ser capaz de aprender e não plagiar da mesma forma que as pessoas podem.

Vocês alguma vez pegaram em material protegido por direitos de autor e não pagaram à pessoa que detém os direitos de autor?

Hum, quero dizer, nós treinamos com informações publicamente disponíveis, mas não gostamos que as pessoas estejam sempre chateadas connosco porque não vamos, temos uma postura muito conservadora sobre o que o ChatGPT dirá numa resposta.

Certo. E então, se algo está mesmo perto, sabe, tipo, eles dizem, ei, esta música não pode estar protegida por direitos de autor, tens de mostrá-la e nós somos, de certa forma, famosos por sermos bastante restritivos nisso.

Então, tiveram queixas de um programador que disse que vocês estavam basicamente a roubar as coisas das pessoas e a não pagá-las e depois ele acabou assassinado.

O que foi isso?

Também uma grande tragédia. Ah, ele cometeu suicídio.

Acha que ele cometeu suicídio?

Eu realmente acho. Este era como um amigo meu. Este era como um tipo que, não um amigo próximo, mas alguém que trabalhou na OpenAI por muito tempo.

Passei, fiquei realmente abalado com esta tragédia. Passei muito tempo a tentar, sabe, ler tudo o que pude, como tenho a certeza que você e outros também fizeram, sobre o que aconteceu. Hum, parece-me um suicídio.

Porque é que parece um suicídio?

Foi uma arma que ele tinha comprado. Foi, isto é um pouco macabro de falar, mas li todo o registo médico. Não lhe parece um?

Não, ele foi definitivamente assassinado, eu acho. Hum, havia sinais de luta, claro, a câmara de vigilância, os fios tinham sido cortados.

Ele tinha acabado de pedir comida para levar, tinha voltado de férias com os amigos na Ilha Catalina, nenhuma indicação de que fosse suicida, sem bilhete e sem comportamento. Ele tinha acabado de falar com um membro da família ao telefone.

E depois é encontrado morto com sangue em vários quartos. Então isso é impossível. Parece realmente óbvio que ele foi assassinado. Já falou com as autoridades sobre isso?

Não falei com as autoridades sobre isso.

Hum, e a mãe dele afirma que ele foi assassinado sob as vossas ordens.

Acredita nisso?

Eu, bem, eu sou, eu sou questionado, quero dizer, você acabou de dizer, então, você, você acredita nisso?

Acho que é, ah,

vale a pena investigar.

e eu não... quero dizer, se um tipo aparece e acusa a vossa empresa de cometer crimes, não faço ideia se isso é verdade ou não.

Claro.

Hum, e depois é encontrado morto e há sinais de luta.

Não acho que valha a pena descartar isso.

Não acho que devamos dizer, bem, ele matou-se quando não há nenhuma prova de que o tipo estivesse deprimido.

Hum, acho que, e se ele fosse teu amigo, eu pensaria que irias querer falar com a mãe dele ou...

Eu ofereci-me, ela não quis.

Então, sentes que, sabes, quando as pessoas olham para isso e pensam, sabes, é possível que isso tenha acontecido.

Sentes que isso reflete as preocupações que eles têm sobre o que está a acontecer aqui?

Tipo, as pessoas têm medo que isto seja tipo...

Já fiz demasiadas entrevistas onde fui acusado de tipo...

Oh, não te estou a acusar de todo.

Estou apenas a dizer que a mãe dele diz isso.

Não acho que uma leitura justa das provas sugira suicídio de todo.

Eu simplesmente não vejo isso de todo.

E também não entendo porque é que as autoridades, quando há sinais de luta e sangue em dois quartos num suicídio.

Tipo, como é que isso realmente acontece?

Não entendo como é que as autoridades poderiam simplesmente descartar isso como um suicídio.

Acho que é estranho.

Percebes como isto soa a uma acusação.

Claro.

E eu, quero dizer, eu certamente, deixa-me ser claro mais uma vez, não te estou a acusar de qualquer irregularidade.

Mas acho que vale a pena descobrir o que aconteceu.

E não entendo porque é que a cidade de São Francisco se recusou a investigar para além de o chamar suicídio.

Quero dizer, acho que eles investigaram algumas vezes, mais do que uma vez, pelo que entendi.

Eu vi, e vou dizer totalmente, quando ouvi falar disto pela primeira vez, parecia muito suspeito.

Sim. Hum, e sei que estiveste envolvido em...

A mãe dele pediu para sair do caso.

E eu, sabes, não sei nada sobre isso, não é o meu mundo.

Ela simplesmente contactou-me friamente. Ela contactou-me friamente.

E, ah, e eu falei com ela longamente e isso, e isso assustou-me imenso.

O miúdo foi claramente morto por alguém.

Essa foi a minha conclusão, objetivamente, sem interesse pessoal.

E tu, depois de leres o último relatório.

Sim.

Tipo, olha.

E eu liguei imediatamente para um membro do Congresso da Califórnia, Ro Khanna, e disse, isto é uma loucura, tens de investigar isto.

E nada aconteceu.

E eu penso, o que é isso?

Novamente, acho que isto é, eu, eu sinto-me estranho e triste a debater isto e a ter de me defender.

Estás a fazer-me sentir realmente louco. E estás um pouco a acusar-me.

Mas, hum, o, esta era uma pessoa maravilhosa e uma família que está claramente a lutar.

Sim.

E acho que podes aceitar totalmente o ponto de que estás apenas a tentar chegar à verdade do que aconteceu.

E eu respeito isso.

Um,

mas acho que a memória dele e a família dele merecem ser tratadas com um nível de respeito e luto que eu não sinto bem aqui.

Estou a perguntar a pedido da família dele.

Então, estou definitivamente a mostrar-lhes respeito.

Hum, e não te estou a acusar de qualquer envolvimento nisto de todo.

O que estou a dizer é que as provas não sugerem suicídio.

E para as autoridades da tua cidade ignorarem isso e ignorarem as provas que qualquer pessoa razoável diria que se somam a um assassinato.

Acho que é muito estranho e abala a fé que se tem na capacidade do nosso sistema de responder aos factos.

Então, o que eu ia dizer é que, depois do primeiro conjunto de informações que saiu, eu estava mesmo tipo, meu, isto não parece um suicídio.

Estou confuso.

Isto parece, ok, ok, então não estou a exagerar, não estou a ser louco aqui de todo.

Bem, mas depois de a segunda coisa ter saído e com mais detalhes, eu pensei, oh, ok.

O que te fez mudar de ideias?

Hum...

o provável percurso das coisas pela sala.

Presumo que também tenha visto isto.

Sim, vi.

E o que é que nisso não o fez mudar de ideias?

Simplesmente não fazia sentido para mim. Porque é que os fios das câmaras de segurança seriam cortados?

E como é que ele acabou a sangrar em duas salas depois de se ter baleado?

E porque é que havia uma peruca na sala que não era dele?

E alguma vez houve um suicídio em que não há qualquer indicação de que a pessoa era suicida, que acabou de pedir comida para fora?

Quer dizer, quem é que pede comida por entrega e depois se mata?

Quer dizer, talvez.

Cobri muitos crimes como repórter policial. Nunca ouvi falar de nada assim.

Então não, eu fiquei ainda mais confuso.

Eu... É aqui que, penso eu, fica um pouco

doloroso, apenas não o nível de respeito que eu esperaria mostrar a alguém com este tipo de

Eu percebo. Percebo perfeitamente.

É que as pessoas fazem coisas assim sem deixar bilhetes muitas vezes.

Tipo, isso acontece.

Com certeza.

As pessoas definitivamente pedem a comida de que gostam antes de cometerem suicídio.

Tipo, isto é... isto é uma tragédia incrível e e eu

Essa é a visão da família dele e eles acham que foi um assassinato e é por isso que estou a fazer a pergunta.

Se eu fosse da família dele, tenho a certeza de que iria querer respostas e tenho a certeza de que não ficaria satisfeito com realmente nada, quer dizer, não há nada que me confortasse nisso, sabe.

Certo. Tipo, eu percebo.

Também me importo muito com o respeito por ele.

Certo.

Hum, tenho de perguntar a sua versão de que o Elon Musk o atacou e tudo isso.

Qual é o cerne dessa disputa, da sua perspetiva?

Olha, sei que ele é seu amigo e sei de que lado estará.

Na verdade, não tenho uma posição sobre isto porque não o entendo bem o suficiente para o compreender.

Hum, ele ajudou-nos a iniciar a OpenAI. Estou muito grato por isso.

Ah, eu realmente, por muito tempo, admirei-o. Ele é um herói incrível e, sabe, uma grande joia da humanidade. Tenho sentimentos diferentes agora.

Hum, quais são os seus sentimentos agora?

Ah, já não é uma joia da humanidade.

Há coisas nele que são incríveis e estou grato por muitas coisas que ele fez. Há muitas coisas nele que, penso eu, são traços que não admiro.

Hum, de qualquer forma, ele ajudou-nos a iniciar a OpenAI e

ele mais tarde decidiu que não estávamos numa trajetória para ter sucesso.

E ele não queria, sabe, meio que nos disse que tínhamos 0% de chance de sucesso e que ele ia fazer a sua coisa competitiva e

depois nós ficámos bem e acho que ele ficou compreensivelmente chateado. Eu sentir-me-ia mal nessa situação.

E desde então tem estado a tentar, ele lançou o seu tipo de clone competitivo e tem estado a tentar, de certa forma, atrasar-nos e processar-nos e fazer isto e aquilo.

Essa é a minha versão da história.

Tenho a certeza de que tem uma diferente.

Já não fala com ele.

Muito pouco.

Hum, se a IA se tornar mais inteligente, acho que já é provavelmente mais inteligente do que qualquer pessoa.

E se se tornar mais sábia, se pudermos concordar que toma melhores decisões do que as pessoas,

então, por definição, meio que desloca as pessoas do centro do mundo, certo?

Não acho que vá parecer isso de todo.

Acho que vai parecer um, sabe, um computador muito inteligente que nos pode aconselhar e nós ouvimo-lo às vezes, ignoramo-lo às vezes.

Não vai, não acho que vá parecer agência, não acho que vá diminuir o nosso sentido de agência.

Hum, as pessoas já estão a usar o ChatGPT de uma forma em que muitas delas diriam que é muito mais inteligente do que eu em quase tudo.

Mas elas ainda estão a tomar as decisões. Ainda estão a decidir o que perguntar, o que ouvir, o que não ouvir.

E acho que esta é apenas a forma da tecnologia.

Quem perde os seus empregos por causa desta tecnologia?

Hum, vou ressalvar isto com a declaração óbvia, mas importante.

que ninguém consegue prever o futuro. Eu vou

e a tentar, se eu tentar responder a isso com precisão, vou cometer muitos, vou dizer muitas coisas estúpidas, mas vou tentar escolher uma área em que estou confiante e depois áreas em que estou muito menos confiante.

Hum, estou confiante de que muito do atual apoio ao cliente que acontece por telefone ou computador, essas pessoas vão perder os seus empregos.

E isso será melhor feito por uma IA.

Hum, agora, pode haver outros tipos de apoio ao cliente onde realmente se quer saber que é a pessoa certa.

Ah, um trabalho em que estou confiante que não será tão impactado é o de enfermeiros.

Acho que as pessoas realmente querem uma conexão humana profunda com uma pessoa nesse momento, não importa o quão bom seja o conselho da IA ou do robô ou o que for, tipo, vão realmente querer isso.

Um trabalho em que me sinto muito menos certo sobre o que o futuro reserva, o que parece ser, é o de programadores de computador.

O que significa ser um programador de computador hoje é muito diferente do que significava há dois anos.

Consegue usar estas ferramentas de IA para ser enormemente mais produtivo.

Mas ainda é uma pessoa lá e eles são capazes de gerar muito mais código, ganhar muito mais dinheiro do que nunca.

E acontece que o mundo queria muito mais software do que o mundo tinha capacidade para criar anteriormente.

Que há uma procura incrível em excesso.

Mas se avançarmos mais cinco ou dez anos, como será isso? Serão mais empregos ou menos? Nesse, estou incerto.

Mas vai haver um deslocamento massivo e talvez essas pessoas encontrem algo novo e interessante e, sabe, lucrativo para fazer, mas

quão grande é esse deslocamento, na sua opinião?

Alguém me disse recentemente que a média histórica é de cerca de 50% dos empregos que mudam significativamente.

Talvez não desapareçam totalmente, mas mudam significativamente a cada 75 anos, em média.

Essa é a espécie de, essa é a meia-vida das coisas.

E a minha opinião controversa seria que este vai ser um momento de equilíbrio pontuado onde muito disso acontecerá num curto período de tempo.

Mas se nos afastarmos, ah, não será dramaticamente diferente da taxa histórica.

Vai fazer, vai ter muito neste curto período de tempo e depois será de alguma forma menos a rotatividade total de empregos do que pensamos.

Ainda haverá um trabalho que é, haverá algumas categorias totalmente novas como o meu trabalho, tipo, sabe, gerir uma empresa de tecnologia.

Teria sido difícil pensar nisso há 200 anos.

Hum, mas há muitos outros empregos que são direcionalmente semelhantes a empregos que existiam há 200 anos.

E há empregos que eram comuns há 200 anos que agora não são.

E se nós, novamente, não faço ideia se isto é verdade ou não, mas vou usar o número para fins de argumento.

Se assumirmos que há uma rotatividade de 50% a cada 75 anos, ah, então eu poderia acreditar totalmente num mundo onde, daqui a 75 anos, metade das pessoas está a fazer algo totalmente novo.

E metade das pessoas está a fazer algo que se parece um pouco com alguns dos empregos de hoje.

Está, quero dizer, da última vez que tivemos uma revolução industrial, houve tipo revolução e guerras mundiais.

Acha que veremos isso desta vez?

Eu, novamente, ninguém sabe ao certo. Não estou confiante nesta resposta, mas o meu instinto é que o mundo é muito mais rico agora do que era na época da Revolução Industrial.

Que podemos realmente absorver mais mudanças mais rapidamente do que podíamos antes.

Hum, há muito que não é sobre dinheiro do trabalho. Há significado, há comunidade.

Hum, acho que já estamos, infelizmente, na sociedade, num lugar bastante mau. Não tenho a certeza de quão pior pode ficar.

Tenho a certeza que pode, mas eu, eu, eu fiquei agradavelmente surpreendido com a capacidade das pessoas de se adaptarem muito rapidamente a grandes mudanças.

Ah, tipo, a COVID foi um exemplo interessante para mim disto, onde o mundo meio que parou de uma vez.

E o mundo era muito diferente de uma semana para a outra.

E eu, e eu estava muito preocupado com a forma como a sociedade seria capaz de se adaptar a esse mundo.

E obviamente não correu perfeitamente, mas no geral, eu pensei, ok, este é um ponto a favor da resiliência social e as pessoas encontram, sabe, novos tipos de formas de viver as suas vidas muito rapidamente.

Não acho que a IA será tão abrupta.

Então, qual será a desvantagem?