
Insights from recent episode analysis
Audience Interest
Podcast Focus
Publishing Consistency
Platform Reach
Insights are generated by CastFox AI using publicly available data, episode content, and proprietary models.
Total monthly reach
Estimated from 5 chart positions in 5 markets.
By chart position
- 🇧🇷BR · Tech News#20100K to 300K
- 🇪🇸ES · Tech News#6210K to 30K
- 🇵🇪PE · Tech News#573K to 10K
- 🇳🇿NZ · Tech News#123500 to 3K
- 🇵🇹PT · Tech News#163500 to 3K
- Per-Episode Audience
Est. listeners per new episode within ~30 days
57K to 173K🎙 ~2x weekly·426 episodes·Last published today - Monthly Reach
Unique listeners across all episodes (30 days)
114K to 346K🇧🇷87%🇪🇸9%🇵🇪3%+2 more - Active Followers
Loyal subscribers who consistently listen
46K to 138K
Market Insights
Platform Distribution
Reach across major podcast platforms, updated hourly
Total Followers
—
Total Plays
—
Total Reviews
—
* Data sourced directly from platform APIs and aggregated hourly across all major podcast directories.
On the show
Recent episodes
#421 – Alerta da defesa civil
Jun 24, 2026
Unknown duration
#420 – AI Wars
Jun 16, 2026
Unknown duration
#419 – Atualização do MCI
May 26, 2026
Unknown duration
#418 – Para além do segundo fator
May 19, 2026
Unknown duration
#417 – Condomínios e biometria, novos crimes digitais e o mito do Mythos
May 12, 2026
Unknown duration
Social Links & Contact
Official channels & resources
Official Website
Login
RSS Feed
Login
| Date | Episode | Description | Length | ||||||
|---|---|---|---|---|---|---|---|---|---|
| 6/24/26 | ![]() #421 – Alerta da defesa civil | Neste episódio falamos sobre o recente ataque ao sistema de alertas da defesa civil. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Ataque ao Defesa Civil Alerta expõe fragilidade digital que TCU denuncia desde 2024 Humanos, chegamos”: invasão ao Cell Broadcast expõe falha inaceitável em infraestrutura Polícia Federal investiga alerta falso em sistema da Defesa Civil que acordou milhões de brasileiros Ataques hackers causam pesadelo à segurança da informação do governo Brazil probes emergency warning system after nationwide rogue alert Imagem do episódio – A Grande Onda de Kanagawa de Katsushika Hokusai | — | ||||||
| 6/16/26 | ![]() #420 – AI Wars | Neste episódio falamos sobre o bloqueio do modelo Fable pelo governo americano. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Amazon denunciou Anthropic. Empresas de segurança cibernética reagem e alertam para perigo da decisão Anthropic’s Claude Fable 5 Alleged Jailbreak to Generate Stack Exploits Statement on the US government directive to suspend access to Fable 5 and Mythos 5 Trump’s new AI executive order drastically shifts the administration’s stance on the tech Trump signs AI executive order asking companies to give government early access to models New AI Executive Order Calls for Frontier Model Security, Early Government Access and AI-Enabled Cyber Defense Trump Wants Frontier AI Models 30 Days Before Launch. The Order Can’t Force It. Anthropic CEO warns that without guardrails, AI could be on dangerous path Artigo – Biased AI writing assistants shift users’ attitudes on societal issues Vídeo – Anthropic CEO warns that without guardrails, AI could be on dangerous path Vídeo – Has the US government called Anthropic’s bluff? | DW News Vídeo – Hegseth: “Anthropic is run by an ideological lunatic.” Imagem do Episódio: “Prometheus Bound” por Peter Paul Rubens. | — | ||||||
| 5/26/26 | ![]() #419 – Atualização do MCI | Neste episódio falamos sobre o novo decreto que regulamenta o MCI. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes DECRETO Nº 12.975, DE 20 DE MAIO DE 2026 – Altera o Decreto nº 8.771, de 11 de maio de 2016, que regulamenta a Lei nº 12.965, de 23 de abril de 2014. Livro – Who We Become When We Talk to Machines de Sherry Turkle Imagem do episódio – The hedge maze at Traquair House | — | ||||||
| 5/19/26 | ![]() #418 – Para além do segundo fator | Neste episódio falamos sobre algumas questões relacionadas à autenticação. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes NIST SP 800-63B-4 – Digital Identity Guidelines: Authentication and Authenticator Management Cybersecurity Advisory – Scattered Spider CrowdStrike Global Threat Report 2026 Mandiant M-Trends 2026 State-of-the-art phishing: MFA bypass FIDO Alliance – State of Passkeys 2026 Constella – 2026 Identity Breach Report Flare Report: Infostealers Are Fueling Enterprise Identity Attacks Verizon — 2025 Data Breach Investigations Report (DBIR) | — | ||||||
| 5/12/26 | ![]() #417 – Condomínios e biometria, novos crimes digitais e o mito do Mythos | Neste episódio, Guilherme Goulart e Vinícius Serafim analisam casos reais e tendências que colocam em xeque a segurança digital e física no Brasil. Você vai descobrir como criminosos burlaram um sistema de reconhecimento facial em condomínios de Porto Alegre usando engenharia social, expondo os riscos do teatro da segurança, do solucionismo tecnológico e da hipossuficiência técnica dos consumidores. Em seguida, você vai entender o que está por trás do lançamento do modelo Mitos da Anthropic — classificado como perigoso demais para uso público —, e por que os resultados práticos com o Firefox e o cURL geraram ceticismo no meio da cibersegurança, levantando questões sobre propaganda de IA, governança, regulação e concorrência no mercado de inteligência artificial. Neste episódio, você também acompanha a análise da lei 15.397, que atualizou crimes digitais no Brasil com penas mais severas para furto qualificado digital, cessão de conta laranja e fraude eletrônica — e por que, sem investimento em capacidade investigativa, isso pode ser apenas populismo penal. Além disso, são discutidas duas vulnerabilidades críticas no Linux (CVE Copyfile e Dirty Frag) com exploits já circulando antes da correção, e como a IA pode acabar com o anonimato na internet ao identificar autores por fingerprint de texto com apenas 125 palavras. Os temas de privacidade, proteção de dados, LGPD, segurança ofensiva, pentest e infraestrutura em nuvem permeiam toda a conversa. Assine o Segurança Legal na sua plataforma favorita, siga o perfil nas redes sociais e avalie o podcast para ajudar a ampliar o alcance deste projeto independente de conteúdo sobre segurança da informação. Você também pode apoiar diretamente pelo Apoia.se (apoia.se/segurancalegal) ou simplesmente indicar o podcast para colegas e amigos — cada compartilhamento faz diferença. Entre em contato pelo e-mail podcast@segurancalegal.com ou pelo Mastodon, Instagram, Bluesky, YouTube e TikTok. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Shownotes Polícia prende suspeitos de invadir e furtar apartamentos de alto padrão em Porto Alegre; grupo usava fraude em reconhecimento facial Polícia desarticula grupo de criminosos que furtava apartamentos de luxo via redes sociais Atualização do Código Penal para alguns crimes digitais Will AI end anonymity? I tested it I can never talk to an AI anonymously again Anthropic’s most dangerous AI model just fell into the wrong hands Unauthorized group has gained access to Anthropic’s exclusive cyber tool Mythos, report claims It’s a myth that you need Mythos to find bugs: Open source models can do it just as well Filme: Quebra de Sigilo (Sneakers) BC Protege Livro – Sob a sombra da suástica: a França ocupada Filme – Viagem ao mundo dos sonhos Artigo – Em louvor ao Teatro da Segurança Imagem do episódio: The Ancient Days, Willia, Blanke 📝 Transcrição do Episódio Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 417, gravado em 11 de maio de 2026. Eu sou o Guilherme Goulart e, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas ou quinzena. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. Esse é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram atenção. Então, pegue o seu café — não está aparecendo aqui — pegue o seu café e venha conosco. Para entrar em contato com a gente, você já sabe: basta enviar uma mensagem para podcast@segurancalegal.com ou também lá no Mastodon, Instagram, Bluesky, YouTube e TikTok. Também temos a nossa campanha de financiamento coletivo lá no Apoia.se: apoia.se/segurancalegal. A gente sempre pede que você considere apoiar este projeto independente de produção de conteúdo. E se não puder ou não quiser, indique o podcast, porque também é uma forma de apoiar. O Vinícius sempre diz isso. Eu roubei a fala dele agora. Fala, fala você isso, Vinícius. Não, pode falar agora. Fala. Já deu tantas opções: se quiser e não puder, e se puder e não quiser… Eu já me perdi todo. Eu acho que sim. São tantos apoios hoje em dia. É. Mas, completando o que eu ia dizer: um grande apoio que você dá para o podcast é a divulgação. Então, divulgar o Segurança Legal é também uma forma de apoiar o nosso trabalho, sem dúvida alguma. E também aproveitando para fazer um agradecimento a todos aqueles que já apoiam. Nós temos apoiadores que estão conosco desde o início do podcast Segurança Legal. Não foi logo no início que a gente promoveu o apoio, mas a gente está fechando 14 anos de podcast. 2012 a 2026, 14 anos. Ano que vem nós vamos debutar! Vamos fazer a festa de debutante do podcast Segurança Legal. 15 anos do Segurança Legal! É, bodas de quê, 15 anos? Ah, você me pegou agora. Isso não está na nossa pauta aqui. Eu vou procurar aqui e depois eu falo de que bodas serão. Procure. Porque a primeira notícia, Vinícius, tem a ver com um certo descontrole no uso de reconhecimento facial aqui no Brasil. Nós temos um certo fetiche, de alguns locais, na utilização de reconhecimento facial para realização de controle de acesso aos mais variados locais. E aí o que aconteceu foi que, aqui na cidade de Porto Alegre, teve uma notícia semana passada em que a polícia prendeu dois suspeitos de participar de uma organização criminosa especializada em furtos de condomínios de alto padrão. Então, era um grupo que atuava aqui no Rio Grande do Sul, mas também tinha tentáculos em São Paulo — inclusive eles vinham de lá para realizar a prática de alguns crimes —, e apenas um dos furtos teria causado prejuízo de mais de R$ 500.000. O interessante é como esta fraude ocorreu. Eu vou ler aqui para vocês a descrição feita pela polícia e também pelo jornal Zero Hora, que é bem famoso aqui no Rio Grande do Sul. O acesso ao edifício foi possível por meio de fraude no sistema de segurança. Um dia antes do crime, um morador perdeu o acesso ao aplicativo do condomínio. As investigações revelaram que criminosos ligaram para a empresa responsável pelo sistema e solicitaram a alteração do cadastro de uma suposta amiga desse morador. Com isso, a suspeita registrou a própria face vinculada ao nome de outra pessoa e passou a ter entrada livre no prédio. Outra coisa bem interessante — e que também envolve um pouco sobre como as pessoas veem a sua própria segurança, ou sobre o que colocam nas redes sociais — é que as vítimas eram escolhidas pelos criminosos pelo que postavam nas redes sociais. Então eu acho que esse caso, Vinícius, me chamou bastante atenção. Logo que eu vi, pensei: não, a gente tem que falar sobre isso no podcast, porque envolve uma série de problemas, mitos e questões do mundo de segurança da informação. Um deles — tema que a gente já falou aqui nos nossos primeiros episódios, inclusive temos um artigo, traduzimos um artigo do Bruce Schneier sobre o teatro da segurança — tradução autorizada, diga-se de passagem, né, Vinícius? Sim, a gente pediu autorização para reproduzir. E aí, porque não tinha IA, né? É, mas eu ainda acho que as traduções feitas por pessoas são melhores. Mas enfim, podemos falar sobre isso outra hora. Eu acho, Vinícius, que é um caso que se aplica muito bem à ideia do teatro da segurança. Porque o que é o teatro da segurança? É aquela situação onde você realiza práticas ou toma decisões em determinado ambiente que deixam as pessoas se sentindo mais seguras sem que elas de fato estejam mais seguras. Daí o nome Teatro da Segurança, porque a medida teria uma função maior de deixar as pessoas se sentindo seguras sem que isso efetivamente acontecesse na realidade. Então, quando a gente junta essa ideia do Teatro da Segurança com a ideia de solucionismo tecnológico — ou seja, achar que somente colocar tecnologia em um determinado ambiente resolveria todos os problemas de segurança —, quando você une essas coisas e também une uma certa ideia de deslumbramento com a tecnologia, e quando você alia ainda os aspectos de conveniência — ou seja, fica de fato mais fácil entrar no seu prédio somente com o seu rosto avaliado por um sistema —, acaba se criando o cenário perfeito para acontecer o que aconteceu. É. Quando você tem um condomínio com muita gente circulando, chave é uma coisa que fica inviável, porque você acaba tendo o mesmo problema: cópias sendo feitas, cópias sendo perdidas, pessoas que trabalhavam no condomínio e não trabalham mais com cópia da chave, qualquer morador dá uma cópia de chave. Acho que é tão ruim quanto usar aqueles chaveirinhos com RFID, entende? Sim. Porque lá também se copia muito fácil — tem 300 copiadores daquilo na internet para vender no Mercado Livre, na Amazon, no AliExpress e por aí vai. Então é o tipo de coisa fácil de copiar, com o mesmo problema da chave. Talvez até pior do que a chave, porque é mais fácil de copiar. Para fazer uma chave, você tem que pegar a chave de alguém, ir a algum lugar que faça cópia ou saber fazer você mesmo. Pelo que eu já vi, não é muito difícil, mas eu não tenho o equipamento. E aí, esses chaveirinhos azuis normalmente… Sim. Tem outras cores, mas normalmente é azulzinho. Aquilo lá é rápido de copiar: um aparelho levado na mão, encosta naquilo, copia e depois reproduz quantas vezes quiser. Então é mais fácil de copiar do que chave. Um sistema de reconhecimento facial que funcione bem — e aí que está o problema — não vai ser uma coisa barata nem simples. O mercado vai ter solução para tudo, das baratas até as melhores. Ele de fato funciona melhor do que chave e melhor do que RFID em termos de restrição de acesso. Não tem como, pressupondo que funcione. Você não tem como perder o seu rosto por aí. Agora, eu acho que nada substitui a boa e velha portaria. Se você tem um condomínio grande e um serviço de portaria — aliado com outras tecnologias —, mas essencialmente com alguém ali capaz de conversar, atender, avaliar, entrar em contato com alguém, não reconhecer o morador e dizer “espera, vou ver com quem você quer falar” — aí tem alguma chance de funcionar melhor. Senão, temos uma falsa sensação de segurança de maneira geral. E é segurança física. O mesmo quando a gente mora num lugar que não está dividindo com outras pessoas: você também está vulnerável. Talvez até mais do que se estivesse num prédio. É bem delicado. E é um problema quando você compra… aquela palavra que você sempre usa, Guilherme, quando a gente fala dessas soluções tecnológicas sendo vendidas para as pessoas em geral. Hipossuficiência. Hipossuficiência técnica. É. Quando você vai comprar um produto e não tem a menor condição de avaliar se aquilo é bom ou não, se funciona bem ou não, e acaba comprando uma coisa que às vezes é cara e que na verdade está te vendendo uma falsa sensação de segurança. É uma bela porcaria. Me parece que muitas dessas soluções — não estou dizendo todas, obviamente — caem nisso, principalmente soluções baratas que prometem funcionar de maneiras que, nesse preço e nesse formato, não vão funcionar bem. Com certeza vai ter problema. E aí eu tenho até medo de ficar investigando esses sistemas. Eu tenho alguns. É delicado, porque você coloca uma nova camada de complexidade em ambientes que, em geral, não estão preparados para consumir produtos e serviços que exigiriam não somente acompanhamento, mas também auditoria. Uma empresa eventualmente teria condições de exigir do fornecedor algum tipo de comprovação de que os sistemas foram testados de alguma forma. Porque aqui o que parece que aconteceu — e a gente não tem mais informações — foi um problema de segurança organizacional: alguém se fez passar por outra pessoa e cadastrou a face remotamente. Possivelmente pelo aplicativo, usou engenharia social para ter acesso a um ambiente que permitiu que ela cometesse um crime ali — prejuízo de R$ 500.000, e os envolvidos foram presos. Então, para concluir: os condomínios não estão preparados para exigir, ou sequer saber o que pedir, sobre auditoria desses sistemas. Mas o fornecedor estaria mentindo, né? Estaria dizendo que sim, foi auditado, sem que fosse. Não necessariamente. Ele pode contratar uma empresa para fazer uma verificação de segurança. A empresa pode ser boa ou ruim, pode ter prestado o serviço efetivamente ou só emitido um certificado. Não tem como saber, do ponto de vista de quem está comprando a solução. A saída é tentar comprar de alguma empresa com nome no mercado, que assuma alguma responsabilidade se algo der errado. Mas acho que aí entra bem no que você gosta de levantar: às vezes a gente usa tecnologia de maneira que não precisa. Por que usar biometria se você pode usar o celular para ler um QR Code e desbloquear? O celular está o tempo todo com a pessoa. Você pode inclusive deixar com o próprio condomínio a responsabilidade de cadastrar os celulares. Você tem várias maneiras de autenticar com o celular e abrir uma porta sem precisar de tirar foto ou qualquer coisa assim. E para resetar o acesso, você tem mecanismos para isso. As próprias pessoas que moram com você poderiam administrar as contas, por exemplo. Isso tudo assumindo que os sistemas estão bem configurados e foram adequadamente testados, sem vulnerabilidades evidentes. Estou falando de algo bem feito. Mas quando você usa biometria, está vendendo um teatro, entende? Não é porque biometria é melhor — às vezes biometria é pior. Às vezes biometria é pior do que usar o celular com um gerador de código ou um QR Code. Não precisa complicar demais. O que acontece? O pessoal desenvolve soluções assim, muitas vezes a própria empresa que desenvolve não tem domínio da tecnologia, então usa algo porque está disponível e faz os processos de segurança — como reset de conta — de forma falha porque simplesmente não passou pela cabeça. Eles também não sabem direito o que estão usando. É como se nem soubessem que existe modelagem de ameaças. Então você vai lá, faz o produto, depois vê. O foco não é segurança, o foco é fazer o produto funcionar. “Como é que a gente vai fazer quando alguém tiver que trocar o rosto?” “Ah, bota alguém para atender o telefone. O pessoal liga para a central, a gente atende, verifica uns dados e faz como o banco.” Nem todo banco faz isso direito. É. Mas verifica. “Me dá o seu CPF, a sua data de nascimento. Tá bom, então você é fulano, eu confio em você, vamos trocar.” Se a coisa é mal projetada, e em segurança da informação não é só o software estar seguro, são os processos em torno do negócio que usa aquele software. Se você não levar isso em consideração, vai ter esses problemas direto. É a segurança técnica versus a segurança organizacional. E aí, a própria LGPD fala sobre isso. Para terminar essa notícia: todo mundo fica deslumbrado porque tem biometria e reconhecimento facial, mas essa mesma empresa que permite que um ataque relativamente simples de engenharia social seja realizado contra ela própria dá uma demonstração clara de que não possui processos de segurança adequados para lidar com dados da sensibilidade que são os dados de biometria facial. Isso atrai para si toda a problemática relacionada às medidas de segurança adequadas para proteger um sistema com essa criticidade dos dados. E pior: a gente vê eventualmente depoimentos de pessoas que se opõem à implementação desse sistema no seu condomínio porque não querem compartilhar informações da sua família inteira — eventualmente até de crianças — e são tratadas como se fossem extraterrestres. E veja: se você vai viajar e vai alguém à sua casa para regar as plantas, essa pessoa também terá que se submeter a um tratamento de dados totalmente desnecessário. Você poderia chegar ao mesmo resultado com soluções mais elegantes — com o celular, sem a necessidade de tratar dados sensíveis de biometria. Então é isso: um certo descontrole, misturado com deslumbramento, misturado com conveniência versus segurança, misturado com teatro da segurança e com uma coisa que fazemos muito bem — ou muito mal — aqui no Brasil, que é cuidar desse tipo de processo. Desculpa o desabafo. O desabafo. Segurança tem o teatro da segurança, tem segurança por obscuridade, tem várias coisas. Por exemplo, como é fácil abrir portão eletrônico, esses portões de garagem que existem por aí. E o que a gente faz? Em vez de exigir um nível melhor de segurança dessas soluções vendidas em todo lugar, proíbem de vender o Flipper, por exemplo, no Brasil. A Receita Federal começa a bloquear a chegada disso aqui. É, a Anatel também, porque são coisas utilizadas para interferir. Claro, a Anatel está certa em fazer isso — são instrumentos que interferem na comunicação, tem multa para isso, tem cadeia para isso se for o caso. O problema são as soluções de segurança física — portão eletrônico, por exemplo — muito mal feitas, que funcionam na base da obscuridade. Um Arduino e um controle de portão é o suficiente para abrir qualquer portão pelo caminho. Existem soluções um pouco mais sofisticadas nesse sentido, mas não é o comum do mercado. Não é mesmo. Ainda sobre os mitos — seria um mito? Vamos ampliar isso. A IA seria um mito? Vamos voltar. O que está rolando? A Google — a empresa Google, que na verdade é a Alphabet, mas se você falar Alphabet, ninguém sabe quem é. É como o X, né? O Google confirmou — mais ou menos, olha — o primeiro Zero Day “in the wild” in the wild que teria sido descoberto com IA. E eles têm. Mas a frase, na verdade, entre aspas, é: “muito provavelmente desenvolvido com auxílio de IA”. Eles querem dizer que foi o primeiro Zero Day conhecido que teria sido encontrado com IA — muito provavelmente com IA. Junto dessa notícia, Guilherme, a gente tem outra, e já vou entrar nos mitos mesmo. Por que a gente está citando essa do Google? Porque está se colocando em pauta — e é por isso que você citou o nome do Mitos — o modelo da Anthropic que eles disseram ser muito perigoso para ser liberado publicamente. Por causa disso, dariam acesso a algumas empresas. Porque a IA está ficando cada vez melhor — esse é o mote da notícia do Google também. A IA está ficando cada vez melhor para encontrar vulnerabilidades em software, numa escala que o ser humano não consegue. Então é algo muito útil e, ao mesmo tempo, começa a ser utilizada para segurança ofensiva — criminosos usando IA para desenvolver exploits e afins. Bem, o Mitos fez essa propaganda — sabe-se lá se propaganda ou realidade — de que a Anthropic disse: “nós temos um Mitos que é extremamente perigoso, que pode invadir sistemas por conta própria, encontrar problemas que nunca encontramos antes, e por isso não vamos fazer o release público, pelo menos não agora, sem previsão num primeiro momento. Vamos liberá-lo para alguns grandes vendors de software, entre eles Microsoft e Linux Foundation — pegando dois grandes, um open source e um comercial.” Decisão que eles tomaram conforme as políticas internas deles. Isso. Há um projeto Glass Wing lá para quem quiser procurar da Anthropic — os detalhes estão lá. E no site do Glass Wing da Anthropic têm os depoimentos dos caras falando, sabe, aqueles depoimentos filmados com câmera boa num cenário bonito, dizendo “nossa, nunca vi encontrar tanta vulnerabilidade”… Se o negócio fosse tão perigoso de verdade, eles ficariam quietos. Vazou o nome do Mitos um tempo atrás num vazamento em que o pessoal teve acesso a alguns documentos da Anthropic. Era só terem ficado quietos, falado com a Microsoft, Linux Foundation, Google e por aí vai, e deixado todo mundo especular. Mas não: lançaram o projeto Glass Wing, com um monte de depoimentos da pessoal da Mozilla Foundation e outros falando que “nossa, nunca vi uma coisa tão maravilhosa catando bug”. Para que estão fazendo propaganda se não vão fazer o release? Obviamente para atrair gente para usar o Claude e para investir na Anthropic. Se o modelo é bom ou não, você não tem como saber, a não ser que trabalhe na Microsoft, Linux Foundation ou qualquer outro lugar que a Anthropic escolheu para entregar o acesso ao Mitos. A OpenAI — que obviamente é concorrente da Anthropic e perdeu não tão feroz, né? Uma concorrente e perdeu uma fatia de mercado bastante razoável para a Anthropic, principalmente depois do contrato com o Departamento de Defesa dos Estados Unidos — criticou a Anthropic por ter feito esse anúncio todo. E o que a OpenAI fez depois de criticar a Anthropic? Lançou o GPT 5.5 Cyber, mas ele é muito perigoso para estar aberto ao público, claro. A gente está lançando o modelo Brown Pipe 2026 Pesther, mas como ele é muito perigoso — mais perigoso que o Mitos, mais perigoso que o GPT 5.5 Cyber — a gente não comercializa, só usa nos nossos pentests, entende? OK. O que aconteceu com o Mitos na prática? A Mozilla tem acesso ao Mitos via Linux Foundation. E o Daniel Stenberg — que é o criador do cURL, aquele utilitário muito utilizado em linha de comando em todas as plataformas, extremamente comum para quem desenvolve — teve o código do cURL varrido pelo Mitos. E o Mitos teria encontrado cinco vulnerabilidades: uma de baixo impacto — vai sair o CVE —, três eram falsos positivos, e a quinta era um bug não relacionado à segurança. Isso aí é… Stenberg tem uma reputação bastante forte e dizem que ele não costuma errar. E ele não é um detrator de IA — ele inclusive afirmou que os analisadores de código que usam IA são significativamente melhores em encontrar falhas de segurança e erros em código-fonte do que qualquer analisador de código tradicional do passado. Frase dele. Todos os modelos de IA modernos são bons nisso atualmente — ele está dizendo que todos são bons. E o que ele disse é que o Mitos não entrega aquilo que supostamente se diz que ele é tão melhor do que os outros modelos. Eu não tenho acesso ao Mitos, mas mantenho o que falei no nosso episódio passado: acho que o Opus 4.7, que é o modelo da Anthropic logo abaixo do Mitos, já era bom o suficiente para sofrer uma limitação — e sofreu. Quando você começa a fazer qualquer coisa ofensiva com ele, a gente recebeu um alerta em vermelho dizendo: “Eu não vou fazer isso porque você está tentando atacar. Se você acha que é legítimo, entre em contato e nos explique o que está fazendo.” E a gente fez isso. Entrou em contato — e para nós foi fácil provar que trabalhamos com segurança: temos o podcast, temos o site da empresa, as produções do Guilherme sobre segurança da informação e proteção de dados. Ficou muito fácil provar. E de fato eles nos liberaram e a gente conseguiu seguir trabalhando normalmente. A gente não tem acesso ao Mitos para comparar, mas acho que o Opus 4.7 já é bom o suficiente para requerer algum tipo de limitação. E tem também aquela outra questão que você levanta, né? Talvez um novo passo para a governança do uso desse tipo de solução — que não passa por nenhum escrutínio público, enquanto outras tecnologias passam. Eu já ia chegar aí. Mas sim, eu vi num programa britânico — eu perdi o link depois — onde estavam discutindo com vários professores, inclusive da área de tecnologia, essa questão da propaganda da IA, da OpenAI e da Anthropic falando “tenho o Mitos, que horror, vai acabar com o mundo”, e agora a OpenAI vindo atrás dizendo “eu também tenho, que também é perigoso, que eu também não vou fazer release”. Uma das pessoas colocou assim: “Não me preocupa tanto essas empresas dizerem que têm esses modelos. O que me chama atenção são elas alardearem essas capacidades e elas mesmas decidirem para quem vão entregar — sem que nenhum governo ou ninguém tenha nada a dizer sobre isso.” E ele comparou com o FDA norte-americano, que às vezes leva anos para liberar um medicamento para garantir que não vai fazer mal à sociedade. Ele acha que o fato dessas empresas alardearem modelos supostamente tão perigosos — assumindo que estão dizendo a verdade, sem exagerar —, sem que ninguém diga nada e sem que elas tenham que responder sobre quem pode usar e quem não pode, chama bastante atenção. Isso, se de fato essas empresas podem seguir fazendo esses modelos nesse nível — se é que é verdade — sem nenhum tipo de regulação… nos Estados Unidos não vai ter regulação, pelo menos dependendo do governo federal. Lembrando que a Big Beautiful Bill do Trump impôs uma moratória de 10 anos na regulação de IA nos Estados Unidos. É, mas esse não parece ser o modelo regulatório que vai dominar o mercado. Porque se você for pensar, me parece que funciona muito como uma questão de mercado mesmo. É, parece bem propaganda. Pode realmente ser bom e tal. Mas, sem dúvida, a gente vai precisar regulamentar esse tipo de uso. É um pouco diferente das Crypto Wars, aquela história de tentar proibir ou controlar o uso da criptografia porque ela poderia ser usada por atores maliciosos. Há uma diferença fundamental aqui, Vinícius: os algoritmos criptográficos são públicos e qualquer pessoa pode utilizá-los. Os modelos de IA que estão fazendo isso não são públicos. Você não pode, se quiser, montar um servidor e rodar o Mitos como consegue fazer com o DeepSeek — se tiver infraestrutura suficiente, inclusive dá para rodar na Amazon. Você tem poucas empresas dominando isso, utilizando claramente a seu favor, com fins de lucro. E existe até uma questão concorrencial para empresas que atuam na área de segurança: e se a empresa dona do modelo não autorizar o uso para você, mas autorizar para o seu concorrente? Pode, né? Imagina: pelo lado positivo, a Brown Pipe recebe acesso ao Mitos, pode fazer testes, pode sair dizendo por aí que tem o Mitos e o concorrente não tem. E a propaganda que esse negócio já ganhou com o próprio marketing da Anthropic no projeto Glass Wing — você já recebe isso embutido, está vendendo um produto. Seria muito bom. Agora imagina o contrário: você não recebe o acesso ao Mitos por qualquer razão, e o seu concorrente recebe. Você simplesmente não tem o produto. E vejo que judicialmente você poderia discutir pelo lado da concorrência. Isso ainda não aconteceu, Guilherme. Está acontecendo com as grandes bigtechs que estão recebendo acesso. E aliás, uma coisa que a gente estava esquecendo: saiu uma notícia de que um grupo de pessoas não autorizadas teve acesso ao Mitos porque deram acesso, vazaram contas e aí você tem esse material, digamos, mais perigoso do mundo, que você permite que algumas empresas utilizem para corrigir vulnerabilidades do seu ambiente — e de repente, facilmente, um grupo de pessoas não autorizadas teve acesso a ele. Usou? Sabe-se lá. Porque essa indústria é marcada pela falta de transparência. Tudo que acontece nela não tem transparência — desde quanto você paga. A gente comentava sobre isso, o pessoal reclamando do consumo de tokens, não saber direito quanto usou. Nos planos pré-pagos, digamos assim. É um negócio sem transparência: não tem transparência de como é treinado, não dizem com quais dados treinou. De repente tem pessoas usando, mas outras não podem avaliar. E aí você começa a mexer com concorrência. É uma empresa americana que naturalmente vai querer melhorar a posição do seu país — não é um problema em si —, mas em nível global, isso não é um editor de texto. É bom, Guilherme. Mas, fechando esse parênteses: a Mozilla, que também teve o código do Firefox 150 varrido pelo Mitos, disse que dos 423 bugs que corrigiu em abril, o Mitos teria encontrado 271 desses bugs. Então tiveram um aumento expressivo, segundo eles, em encontrar bugs por causa do Mitos. E tem uma coisa interessante: ficou o Stenberg falando que não é tão bom assim, e a Mozilla falando bem. Os dois estão no meio do caminho. E o Ottenheimer — eu estava pesquisando o nome dele aqui, não cheguei à conclusão de quem era. É o cara que fez a bomba, né? Oppenheimer. Ah, tá. Mas não é Oppenheimer, não. Ele se chama Davi Ottenheimer, e o link estará nos show notes que vamos compartilhar com o pessoal. Ele fez o teste que, segundo ele, a Mozilla deveria ter feito. Ele usou o Sonnet 4.6 combinado com o Haiku 4.5 — lembrando que o Haiku é o modelo mais básico, depois vem o Sonnet 4.6 que você tem acesso no plano free, que está logo abaixo do Opus 4.7. Ele rodou usando uma skill de auditoria — ou seja, não apenas o produto da Anthropic puro, mas com instruções que alguém preparou. E teria encontrado oito vulnerabilidades em 2 minutos, com custo total de 75 centavos de dólar. Dois dos oito que ele encontrou batem com os bugs que o Mitos identificou no Firefox. O que ele quer dizer é que, pelo caminho que ele foi — usando o Sonnet, que custa cinco vezes menos do que vai custar o Mitos, pelo menos no previsto —, parece que os resultados são comparáveis. Eu não sei se ele conseguiu usar o Mitos para comparar diretamente, mas o fato é: talvez não seja só o modelo, mas como você usa o modelo. E a gente sabe isso por experiência própria, Guilherme, porque a gente desenvolve usando IA, usou muito o Claude Code, ainda usa o Claude Code, já usou o GPT e tem o Codex na manga. Se você simplesmente pegar ele puro — instalou na máquina e saiu pedindo para ele codificar ou fazer verificação de segurança — os resultados não são bons. Ele gera código vulnerável, gera código sem autenticação. Faz barbaridades. Agora, a partir do momento que você orienta direitinho com skills — ou seja, com uma série de instruções de como ele deve fazer as coisas, feitas por um ser humano —, aí sim ele funciona. E a partir daí é a instrução mais o modelo juntos. A nossa experiência é que se você orientar o modelo direitinho, ele vai funcionar bem. E quanto melhor o modelo, melhor ainda vai funcionar. A gente usou o Sonnet por muito tempo. Quando saiu o Opus, mudou muito a forma de fazer as coisas — foi um salto muito grande, de fato um modelo muito melhor, mas dentro de um ambiente em que ele é orientado e direcionado. O Mitos, pelo que dizem — pelos benchmarks que a Anthropic divulgou — ele é cerca de 20% melhor do que o Opus 4.7 em tudo. Se isso de fato é verdade, ele puro vai funcionar um pouquinho melhor do que o Opus sem instrução. E ele deve funcionar melhor nos ambientes que a gente já tem, com boas instruções. Imagino que deva funcionar melhor que o Opus 4.7. Quanto melhor? Não sei. O fato é que, no final de tudo, a gente tem que olhar com um certo ceticismo, com o pé atrás em relação ao que está sendo propagandeado. A gente tem que esperar para ver, com o pé no chão, o que esse negócio vai entregar quando e se a Anthropic abrir o acesso ao Mitos. A Anthropic disse — eu estava lendo semana passada — que existe uma previsão de que os modelos chineses estariam cerca de 6 a 12 meses atrás do Mitos. Só que a gente já sabe que esse prazo pode ser dois anos em vez de 12 meses — estou exagerando para dizer que o tempo não importa tanto. Outros modelos vão atingir esse mesmo nível. E podemos ficar tranquilos: nós vamos ter modelos que qualquer um poderá rodar e que vão fazer coisas que o Mitos faz ou até mais. O problema não é tanto uma empresa ter um modelo desses e “esconder” — porque aquela velha desculpa de “não vou mostrar a vulnerabilidade para que os maus não possam usar” já foi discutida há muito tempo. Eu já fui perguntado sobre isso há anos, fazendo palestras Brasil afora: “Ah, mas mostrando isso você não está incentivando as pessoas a atacar?” Então, a gente vai ter boas discussões sobre o que esses modelos podem de fato fazer — e vai chegar um ponto em que todo mundo terá acesso, seja pela Anthropic, seja pela OpenAI, seja pelo DeepSeek, ou por qualquer outra empresa que nem fazemos ideia que vai surgir. Além de tudo que a gente falou, tem aquele filme — cujo título original é Sneakers, traduzido para o português como Quebra de Sigilo — que é o de 92, né? Com um grande elenco. Robert Redford e tal. Os caras descobrem um equipamento — na verdade são hackers contratados para pegar um equipamento —, e aí descobrem que aquele equipamento conseguia decifrar qualquer tipo de criptografia. Um decifrador. É, era um decifrador. Então é um pouco o que a gente ficava pensando: o que aconteceria se isso de fato existisse? O argumento do filme é muito bom, desses filmes hackers. E parece que está acontecendo mais ou menos isso. Claro, não quebrou os modelos criptográficos — pelo menos ainda não. Aí sim seria uma tragédia. Deixa para a computação quântica. É, Vinícius. Tivemos algumas alterações. Vou ser mais rápido aqui nessa próxima notícia — uma notícia histórica, no sentido de que tivemos atualizações de crimes digitais aqui no Brasil. A lei 15.397 atualizou sensivelmente — e na verdade aumentou — a pena de alguns crimes já existentes, como o furto qualificado digital, e trouxe também algumas coisas interessantes, como a criminalização da cessão de conta laranja para golpes. O que temos: uma atualização no artigo 155, que é o furto, qualificando como crime — com pena de 4 a 10 anos — o furto mediante fraude por meio de dispositivo eletrônico ou informático, conectado ou não à rede de computadores, com auxílio de violação de mecanismo de segurança ou utilização de programa malicioso ou por qualquer outro meio fraudulento análogo — que é quase exatamente a redação do art. 154-A, que é o crime de invasão de dispositivo informático. Mas para dar uma maior coerência — que aliás não é uma das qualidades do Código Penal Brasileiro, que é meio que uma colcha de retalhos — dá um pouco mais de coerência ao utilizar a mesma tipificação, mas aqui para a questão do furto qualificado. Pena importante: 4 a 10 anos. E ainda há um aumento de pena se os servidores — aqui os servidores técnicos, as máquinas — utilizados estiverem fora do Brasil, ou se o crime for praticado contra idoso ou vulnerável. Lembrando que esse é o grosso do que temos de crimes informáticos hoje. Também há aumento de pena para furto ou roubo de aparelhos de telefonia celular, computador portátil ou tablet — que é o “computador do tipo prancheta”. Ainda bem que colocaram o “portátil do tipo prancheta”, porque senão imagine… Exato. Porque em direito penal você não faz analogia para condenar, só para absolver. Então fico pensando nos donos de tablets… O meu está aqui do meu lado, o meu tablet, que eu não abro mão. Parece que está se referindo a um tablet. Mas essa nomenclatura chamou atenção: por que listar o equipamento? Por que não colocar algo mais genérico? Não, mas ao listar o equipamento — você já deu a resposta: em direito penal, para condenar, precisa ter o tipo penal exatamente e roubo genérico de eletrônico não serve. Mas logo depois tem “ou de qualquer dispositivo eletrônico ou informático semelhante”. Pronto, resolveu o problema. Poderia ter colocado apenas “aparelho de telefonia celular ou computador” e terminado. É o que você diria, né? Enfim. Aplica-se também ao roubo dos mesmos dispositivos. Furto ou roubo que acontece muito em grandes centros como São Paulo: o cara está com o celular na mão e vem alguém de bicicleta ou de moto e rouba. Outra curiosidade: também aumentaram a pena do furto de animais domésticos — agora furtar um animal doméstico tem pena de 4 a 10 anos. Aí tem a cessão de conta laranja — para quem cede gratuitamente Isso. E isso é interessante. Que aí entra nas fraudes, seria uma modalidade de estelionato: quem cede gratuitamente ou onerosamente conta bancária para que nela transitem recursos destinados ao financiamento de atividade criminosa. Tem uma certa questão aqui, porque muitos criminosos criam contas sem que o titular saiba. Obviamente, esse é um crime que exige o dolo do titular. Uma coisa muito importante, Guilherme — a gente vai deixar o link: tem aquele serviço do Banco Central onde você entra e bloqueia a criação de novas contas em seu nome. Sim. Acho que é muito pouco divulgado. Deveria ser mais divulgado. E na Receita Federal há uma opção para você bloquear a abertura de empresas em seu nome. São duas coisas muito úteis e que ajudam para esse caso de se abrir conta ou empresa sem a sua autorização. Agora, se você der autorização, aí está cometendo crime. É, exatamente. E a fraude eletrônica — pena de 4 a 8 anos — seria um tipo de estelionato. Se cometida com utilização de informações fornecidas pela vítima ou por terceiro induzido a erro por meio de redes sociais, contatos telefônicos, envio de e-mail fraudulento, duplicação de dispositivo eletrônico, clonagem ou qualquer outro meio fraudulento análogo. Essas fraudes que a gente conhece. A ideia foi dar uma sistematizada em tudo isso. Agora, claro que é importante — são crimes que estão assolando o Brasil diariamente. Todos nós, se não diariamente, ao menos semanalmente, recebemos tentativas desse tipo de fraude. E aí a gente pensa: “Bom, mas é um problema de tipo penal? Faltava tipificação?” Talvez não faltasse para a maioria dos casos — a exceção talvez seja a cessão de conta laranja, que antes precisaria ser enquadrada como participação ou coautoria. Mas enfim, sistematizou, penas maiores, tudo bem. Porém, quantos desses crimes são efetivamente resolvidos no Brasil? Só em 2024, tivemos 2.166.552 casos de estelionato — quatro golpes por minuto, uma taxa de 1.019 ocorrências por 100.000 habitantes. Crescimento de 7.823% entre 2018 e 2020 — digo, ao longo desse período. O estelionato por meio eletrônico especificamente somou 281.000 casos. E há um problema: estados como São Paulo, Rio e Ceará registram todos os estelionatos de forma agregada, então o número real de estelionatos digitais pode ser ainda maior. Qual a porcentagem desses casos que chegam à fase judicial? 2,4% dos casos registrados. O vice-presidente do FBSP — Fórum Brasileiro de Segurança Pública, que faz o anuário brasileiro — afirmou que o risco de ser punido pelo cometimento de um estelionato é muito baixo, e quando o autor é identificado, no máximo ele irá repor o prejuízo causado. A Polícia Federal registrou quantos inquéritos de crimes digitais de alta complexidade em 2024? Cinquenta e cinco. Não 55.000, são 55. E até julho de 2025, a PF somava 30 novos inquéritos de crimes digitais. Então, apesar de tudo, eu acredito que precisamos de outras coisas além de aumentar penas. Senão vira populismo penal, que é muito comum no Brasil: aumentar as penas para um determinado crime sem dar condições para que a polícia, o Ministério Público e os agentes de segurança envolvidos sejam mais bem treinados, recebam melhores recursos e ferramentas para lidar contra esses crimes. Esse é o problema maior: os órgãos de investigação não estão sendo municiados para conseguir lidar com isso. A gente já sentiu isso na pele. Não vou falar nenhum caso específico, mas em mais de uma situação… Esses dias você foi a uma palestra onde alguém comentou que não tem recursos, não tem como ir atrás. É simples assim. E bem chocante, sabe? Você imagina: a polícia já tem poucos recursos, não tem gente, não tem preparo suficiente, não tem uma série de coisas. Como vai atrás de um crime de R$ 100, 200, R$ 300? Aqui está a continuação da transcrição corrigida: Como vai atrás de um crime de R$ 100, R$ 200, R$ 300? Eu não peguei o valor médio aqui, mas alguns desses valores são importantes. Eu já tive familiares que caíram com valores consideráveis. Não, eu até conheço uma situação que chegou para mim de R$ 4.000. Só que é tanto, é tanto e não dá em nada — no sentido de que eles não conseguem ir atrás. E ao mesmo tempo a gente tem coisas que poderiam ser mais facilmente feitas, que é, por exemplo, a Anatel controlar o uso de números, essas centrais telefônicas que ficam dando golpe. Não é possível que eles não tenham como controlar isso. Porque você tem um comportamento ali que seria relativamente fácil de detectar, hoje com IA e tudo mais. Não precisa sequer de IA para isso. Você tem bancos e tudo mais, você consegue fazer um cadastro de quem são essas empresas. Aí você pega um monte de entidades estranhas, desconhecidas, que começam a fazer ligações — centenas de milhares de ligações: liga e desliga, liga e desliga. Tem um padrão ali que você poderia resolver. Não precisa de IA para isso, só precisa de inteligência mesmo para ir atrás. E no entanto, eu não recebo mais ligação de número desconhecido. Saturou a plataforma. Acabou. Saturou a plataforma. Se alguém quiser me mandar um recado por número desconhecido, dane-se. Vai ter que achar outro jeito, porque por ali não vai. O celular passa tocando, não tem o que fazer. Eu ainda tenho um diferencial aqui: tem uma farmácia na região metropolitana que, em vez de usar o DDD local, usa o 055. Então eu recebo toda semana pessoas me perguntando quanto custa determinado medicamento. Mas enfim. Por um lado interessante, por outro nem tanto. Talvez não precisássemos disso. E é claro que melhorar a legislação penal é importante, mas o que está por trás disso, o que está por baixo, é o que deveria realmente merecer a atenção do poder público. Não é um crime ocasional — é um crime que todo mundo sente na pele. Certo, Vinícius? Certíssimo. Eu ia comentar mais sobre aquelas notícias dos bugs do Linux. Pois é, mas isso fica para uma próxima, porque surgiram dois bugs sérios. Temos duas notícias de bugs gravíssimos: o primeiro é o CVE do “Copyfile” — ou como está sendo chamado. Que permite escalar privilégios no Linux, em todas as distribuições. É local — não é remoto. Um usuário local consegue se tornar root. Eu até fui procurar os detalhes da vulnerabilidade, mas o que chama atenção é que nos dois casos — e há um segundo caso agora, da semana passada para essa, que é o Dirty Frag — a divulgação responsável foi comprometida. Temos código e ferramentas para explorar essas vulnerabilidades já sendo distribuídas na internet antes da correção. Antes da correção, o que forçou os descobridores do problema a publicar tudo de uma vez, porque já estava circulando independentemente a forma de explorar essas vulnerabilidades. Essas vulnerabilidades permitiriam, entre outras coisas, sair de dentro de um container Docker rodando no Linux e acessar, por exemplo, o restante do sistema operacional onde o Docker está hospedado. Catastrófico. É algo violento. Mas exige um pé inicial no servidor — o atacante precisa já ter algum acesso. Então, pessoal, muito cuidado com expor serviços na internet, abrir portas desnecessárias. Isso tem aparecido de forma recorrente quando a gente faz pentest, Guilherme. Com frequência. Tem sido comum encontrar serviços instalados para testes que ficaram lá, mal configurados, às vezes com senha padrão, às vezes com endpoints e APIs expostas que permitem acesso local à máquina — ao container Docker, por exemplo. A partir de uma vulnerabilidade dessas, como o CVE do Linux que mencionamos, é fatal. O cara tem o pé lá dentro. É fatal. Então, de fato, não é porque a infraestrutura não está mais on-premises, não está mais dentro de casa, que alguém lá na Amazon, no GCP ou no Azure está cuidando da segurança por nós. Ao colocar algo no ar e expor um serviço na internet, mesmo que seja para um teste rápido: use uma VPN, no mínimo faça um filtro com base em IP — ainda que não seja tão efetivo, funciona. Mas não dá para ter grandes garantias nisso. Tenham cuidado, porque tem sido frequente encontrar esse tipo de situação. E pior: o pessoal esquece. Você sobe o serviço para testar, fica lá rodando, e você nem lembra mais que aquele serviço existe. É o gerenciamento de infraestrutura. Uma última notícia minha aqui, Vinícius: como a IA pode acabar com o anonimato. O que a jornalista Kelsey Piper conseguiu fazer foi descobrir que o Opus 4.7 da Anthropic é muito bom em fazer fingerprint de texto. 4.7, perdão. É muito bom em fazer fingerprint de textos. Ela é uma jornalista com muitos textos publicados na internet, e começou a fazer testes: submetia para o Opus textos que ela nunca tinha publicado, guardados localmente, que nunca vazaram. E o Opus conseguiu identificar — ela chegou ao número de 125 palavras para que o Opus conseguisse reconhecer um texto dela. Ela também testou o inverso: pegar um texto que ela nunca publicou e verificar se o modelo afirmava que aquele texto foi escrito por ela, com base no estilo. E ele conseguiu. Ela testou também com o GPT e com o Gemini — que é o patinho feio das IAs — e eles não conseguiram. Ela fez testes na web, via API, fez testes com amigos. O resultado sempre foi o mesmo. Chegou a colocar um texto de 15 anos atrás, da época em que estava na escola, e o modelo a identificou. Não foi uma pesquisa científica — é um teste que ela fez mais informalmente. A hipótese dela é que isso vai funcionar melhor com pessoas que têm mais conteúdo escrito e identificado na internet. Ela é jornalista, publica todo dia. Mas a hipótese é que, pouco a pouco, a quantidade de dados necessária para identificar alguém vai diminuir. Isso é hipótese dela, a gente não sabe ao certo. E aí isso passa a ser um problema sério para proteção de dados e privacidade. Você teve, ao longo das últimas décadas, uma série de pessoas se manifestando na internet de formas diferentes — não somente para cometer crimes, mas pessoas perseguidas por posicionamento político ou por orientação sexual, que queriam, com um certo manto de anonimato, se conectar com outras pessoas de gostos semelhantes. De repente, numa virada de chave, um modelo de IA pode descortinar o que essas pessoas escreveram no passado com relativa facilidade. Claro, ainda não estamos falando de uso para fins de perícia judicial, porque existe uma ciência por trás disso para identificar plágios e padrões, feita por peritos. A grande reflexão é: de repente, o modelo consegue pegar um texto e dizer que foi o Vinícius que escreveu aquilo num fórum de jogo que ele nem se lembra mais, há 20 anos. Fica tranquilo que a Palantir já deve estar fazendo isso. Agora, pensando em usos interessantes: pegar textos antigos, textos bíblicos, todas aquelas discussões sobre a Bíblia histórica — de quem escreveu o quê, de onde veio determinado trecho —, ou as obras de Shakespeare, sobre as quais se diz que havia mais de um autor. Pode ser muito interessante, no nível da literatura. Descobrir fraudes e plágios também. Mas o problema maior aqui é essa questão de violação de privacidade e intimidade. Perfeito. Pareceu uma claquete. Para marcar. Tem alguma recomendação? Ah, tem uns filmes velhos aí que a gente estava… Pois é, eu queria falar dos filmes velhos. Fala rapidinho aí. Tá. Eu até comprei um para assistir — deixa eu ver. Eu tenho aqui. Você já comprou? É, tem um que você vai me criticar. Deixa eu ver. Eu esqueci o nome. Deixa eu pegar. Vai procurando aí. Eu queria sugerir um livro — lançado recentemente, no início desse ano — que é Sob a Sombra da Suástica, de uma professora que fez doutorado na França sobre um tema muito interessante: ela analisou a invasão da França pela Alemanha nazista sob a ótica de cartas de crianças. Um negócio bem tocante, porque você teve uma movimentação enorme de pessoas. Milhares de crianças se perderam durante essa dominação que dividiu a França em duas zonas — uma tomada pelos alemães, outra não —, pessoas fugindo e tudo mais. Lembra um pouco daquilo que a gente vê em Bastardos Inglórios, aquela perseguição. Só que aqui é um livro de história. Ela simplifica a tese para explicar como se deu o cotidiano das pessoas durante essa ocupação — para pessoas normais, como nós, que gostam de história mas não são historiadores. É um livro bem interessante para quem quer entender esse momento histórico, sem ser necessariamente um especialista. A autora é Franciele Becker. Eu estou tentando achar aqui os meus vídeos comprados. Caiu num scam. Comprou o vídeo. Caí no scam do Prime. Estou tentando achar. Eu nunca comprei filme lá, sabia? Eu já comprei sim. Mas são normalmente coisas antigas. É que não tem, né? Aquela reflexão que a gente fazia: os streamings não conseguem ter coisas mais antigas e clássicas. É. Um deles era o Quebra de Sigilo, que é o Sneakers. O outro era aquele do grupinho de crianças que descobria uma tecnologia alienígena e conseguia fazer uma nave envolta num campo de força. Era bem legal. Isso é coisa muito velha. Eu até peguei para assistir com as crianças. Foi um filme que eu assisti quando era criança. Muito legal. Se alguém assistir hoje e achar ruim, não venha me culpar. Mas é uma coisa interessante — quem é um pouco mais novo provavelmente não viu esse filme e não vai conseguir achar nos streamings, e não tem mais locadora. Está no Prime, Apple TV também tem. É claro — se você conseguir localizar depois de comprar o filme. Eu tenho aqui, vou colocar no show notes. É um filme mais de fantasia, na linha de sessão da tarde. A gente estava vendo no Just Watch. Então vou deixar o Sneakers mesmo, porque esse é um filme de hacking bem legal. Esse é um dos primeiros filmes de hacking que eu acho que assisti. Eu tenho aqui no Prime também. E sobre isso, depois vieram outros filmes e tal. É Viagem ao Mundo dos Sonhos, Vinícius. Viagem ao Mundo dos Sonhos! Esse é o cara. Com Ethan Hawke, né? Quando era criança. Bem criança. Um negócio bem legal. Tá bom. Vamos adiante. Então, agradecemos a todos e todas que nos acompanharam até aqui. Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 4/30/26 | ![]() #416 – Saber sem conhecer | Neste episódio comentamos sobre os desafios e as soluções técnicas para a aferição de idade na internet, um tema que ganhou forte destaque com as novas regras do ECA Digital. Você irá descobrir como funcionam os protocolos de conhecimento zero, também conhecidos como Zero-Knowledge Protocol ou ZKP, e de que forma eles permitem comprovar a maioridade de um usuário sem expor dados pessoais sensíveis. Você entenderá a diferença entre ferramentas invasivas, como a biometria facial, e métodos técnicos que respeitam a privacidade e a proteção de dados, utilizando criptografia aplicada e padrões internacionais de segurança da informação. Além disso, você vai aprender sobre os impactos práticos da regulamentação da ANPD no controle de acesso a conteúdos restritos e como evitar o rastreamento excessivo por grandes empresas de tecnologia. O debate também aborda táticas de engenharia social, destacando uma série educativa sobre phishing baseada na psicologia da fraude, que é um conhecimento essencial para evitar golpes online e vazamento de dados. Ao longo da discussão, você verá que é possível equilibrar a proteção no ambiente digital com a garantia da intimidade, sem adotar modelos de vigilância em massa durante a autenticação de sistemas. Para não perder nenhuma discussão sobre tecnologia, direito e sociedade, assine o podcast na sua plataforma de áudio favorita e siga nossos perfis no YouTube, Mastodon, Blue Sky, Instagram e TikTok. Aproveite para avaliar o programa e compartilhar o conteúdo com outras pessoas interessadas no assunto. Você também pode apoiar o projeto acessando a plataforma de financiamento coletivo indicada no áudio ou enviando suas dúvidas e sugestões diretamente para o nosso e-mail oficial. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes The Psychology of Fraud, Persuasion and Scam Techniques LEI Nº 15.211, DE 17 DE SETEMBRO DE 2025 – Dispõe sobre a proteção de crianças e adolescentes em ambientes digitais (Estatuto Digital da Criança e do Adolescente) DECRETO Nº 12.880, DE 18 DE MARÇO DE 2026 – Regulamenta a Lei nº 15.211, de 17 de setembro de 2025, que dispõe sobre a proteção de crianças e adolescentes em ambientes digitais, e institui a Política Nacional de Promoção e Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. Mecanismos confiáveis de aferição de idade – ORIENTAÇÕES PRELIMINARES Radar tecnológico – Mecanismos de aferição de idade 📝 Transcrição do Episódio Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação, Direito da Tecnologia e Tecnologia e Sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. Sempre lembrando que para nós é fundamental a participação de todos. Aproveite perguntas, críticas e sugestões de tema. Para isso, você já sabe. Você pode mandar uma mensagem para podcast@segurancalegal.com. Na verdade, se você já sabe, eu não precisaria dizer. Mas enfim, [risadas] é o que está escrito aqui na nossa abertura. Então, no YouTube, você pode nos assistir também no YouTube, lá no Mastodon, no Blue Sky, no Instagram e também no TikTok. Esse com alguns cortes. Interessante até para… Aliás, Vinícius, fala um pouquinho sobre a tua sériezinha que você está fazendo. Que eu achei super interessante pelo seguinte, isso não estava na pauta, mas enfim. Porque esses dias o pessoal lá da faculdade começou a falar sobre phishing e eu mandei aquele teu vídeo para eles, eles adoraram, assim, esclarecedor e tal. Fala um pouquinho sobre esse projeto aqui. Não é? É do livro. Agora a gente pegou, só que eu não estou com o livro aqui na minha frente, está no outro lugar. Mas eu tenho o livro que fala sobre a psicologia da fraude, da fraude. De esquema e tudo mais. Vai falando aí. Que a autora é a Martina Dove, a autora do livro. E esse livro a gente já tem ele há uns bons anos, inclusive vai sair a versão nova. Eu comprei na pré-venda agora. Ela atualizou o livro, acho que sai em setembro, se eu não estou enganado. Mas é um livro que a gente já tem há alguns anos. Foi logo que ele saiu. Eu ouvi uma entrevista que ela deu num podcast e assim, nossa, a gente precisa desse livro. Aí eu comprei o livro e esse livro é muito interessante. Inclusive agora vamos fazer o merchan da Brown Pipe nos nossos testes de phishing. Porque o que você vê normalmente aí no mercado em termos de phishing, você vai num site, compra tantos envios e créditos lá e faz os envios para todo mundo e tal. E quando a gente faz phishing, a gente cria as campanhas. Nós criamos as campanhas para cada situação. E a gente sempre fez com base na nossa experiência do tipo de coisa que as pessoas caem, o que a gente conhece, o que se tem de golpe comum e tal. E esse livro, quando ele saiu, foi para nós um upgrade assim nas campanhas de phishing, porque ele dá… a Martina Dove, ela fez uma pesquisa, não é achismo e tal, então ela fez uma pesquisa e ela te traz quais são os elementos que fazem com que funcione um scam. É muito interessante. E aí nós decidimos, Guilherme, fazer essa série, digamos assim, eu e a Camila. Porque no Instagram a coisa é mais rápida, são vídeos mais curtos. Então, a gente achou interessante contribuir de alguma maneira com algo que seja útil ali. Não adianta a gente falar dos nossos serviços no Instagram. Não faz sentido, ninguém vai querer ver ali. É. E aí a gente resolveu assim, o que a gente pode fazer de útil que marque a presença do Segurança Legal e da Brown Pipe no Instagram? E essa é uma das coisas que a gente encontrou assim, tem um monte de gente caindo em golpe, todo mundo falando de golpe, golpe do advogado. A OAB Rio Grande do Sul. Eles estão, a OAB Rio Grande do Sul está fazendo uma campanha no estado inteiro com material, bem forte para combater o tal do golpe do advogado, que é um scam feito com pessoas que têm processos. Os dados dos processos são públicos e os caras olham os dados dos processos, ligam dizendo que tem alguma notícia, algum dinheiro que tem para sair e pedem grana. Então assim, é um troço horroroso que está acontecendo. Então teve um evento da OAB daqui de Três de Maio, que me convidaram para ir lá falar sobre isso também, junto com o delegado da Polícia Civil daqui da cidade e mais o delegado das prerrogativas dos advogados aqui da cidade e a presidente também, a Laura Redel, que é a presidente da OAB aqui em Três de Maio. E se discutiu esse assunto. Foi no auditório, foi bem legal assim, bastante gente. E eu já estava… coincidentemente eu fui convidado para isso depois de ter planejado a série junto com a Camila. E a gente entendeu que seria extremamente útil fazer essa série para instruir as pessoas. Então, se você for lá no Instagram, vocês vão ver que são vídeos curtos, um minuto aproximadamente, e cada um deles vai progredindo, vai seguindo o que a Martina Dove explicou na pesquisa dela. E é só coisa útil, não tem enrolação ali. Também está lá no YouTube Shorts. Então você, se não gosta do Instagram, vai lá no YouTube Shorts. O nome do livro é The Psychology of Persuasion Techniques. Martina Dove, aliás, dove em italiano quer dizer onde, e dove em inglês é pomba. [risadas] E inglês é pomba. Pomba. É verdade. E então uma nota mental para a gente aqui. Quando terminar a série, Vinícius, vamos transformar num episódio. Tem inclusive vídeo no YouTube, daí é um pouco mais longo. O vídeo no YouTube, além dos shorts, no YouTube nós temos os vídeos com… a gente fez um vídeo com as dicas condensadas dos primeiros três vídeos do Instagram. Pega aí o link depois. Isso tudo foi a abertura, gente. Saiu um pouquinho do planejado. [risadas] Tem o blog, o episódio vai ser curto. Tem o e-mail semanal e tem a nossa campanha de financiamento coletivo lá no apoia.se/segurancalegal, que a gente sempre conclama que você, se puder, faça. Essa ajuda é importante para a gente. Nos ajuda a manter aqui toda a nossa infraestrutura, microfones. Se não quiser e quiser apoiar de outra forma, divulga o podcast, apresenta ele para outras pessoas. Para nós é muito importante. Isso. E isso a gente sempre fala, a gente tem muita sorte porque a gente conseguiu reunir em torno desse projeto pessoas muito legais. É uma exceção na internet assim. Mas enfim, apoia.se/segurancalegal. Bom, a gente volta aqui hoje depois do nosso episódio que a gente gravou sem ser as notícias, o café, que a gente falou sobre algumas notícias antes, a gravação com Paulo Rená no 413, e a gente tinha prometido lá que a gente voltaria para falar fazendo uma abordagem um pouco mais técnica sobre as questões de aferição de idade. Isso na esteira do que o ECA Digital tem colocado, que é a grande preocupação. Ou seja, como é que eu vou fazer de fato esse processo um pouco maior de aferição de idade? O decreto que regulamenta o ECA Digital, decreto 12.880, fala em aferição de idade como um termo geral, e aí verificação de idade, que é um procedimento específico. Enfim, e aí logo vem à tona a questão do ZKP. E eu acho que a gente pode começar, Vinícius, você explicando, claro, pensando sempre como a gente sempre faz, que a audiência não é só de pessoas técnicas. Então a gente pode ter advogados, até gente da área técnica que não tem muita intimidade ou familiaridade com esses conceitos. Então, acho que você começa falando o que é, para que a gente vá se encaminhando pouco a pouco para a discussão um pouco mais técnica. A ideia é que você possa explicar o ZKP, Zero-Knowledge Protocol. É que tem protocol e tem proof. O que é a prova de conhecimento zero? Quando a gente fala de prova de conhecimento zero, a ideia é você conseguir provar um determinado atributo ou uma determinada informação que você conhece ou que você tem, ela pode ser sobre você ou não, sem mostrar, sem revelar a informação. Então assim, como analogia, imagina que você vai comprar bebida alcoólica em algum lugar e certamente vão te pedir a carteira de identidade, certo? Vamos fazer de conta que vão pedir a sua carteira de identidade. Para mim é meio autoevidente que eu tenho mais. [risadas] É meio autoevidente. Então, o que acontece? Se você tiver que mostrar a sua carteira de identidade para provar que você é maior de idade, você não vai provar apenas que você é maior de idade. Você vai estar mostrando a sua data de nascimento, que é a primeira informação que o cara vai ter que ver para saber que você é maior de idade, olhando a sua carteira. Mas ele vai ver seu nome, ele vai ver seu CPF, vai ver o número do seu RG que vai estar junto ali. CNH, a mesma coisa, tem todos os seus dados ali. Mas você queria mostrar somente, você queria, na verdade, provar que você é maior de idade. É isso que você queria provar. Você não queria nem mostrar a sua data de nascimento, certo? Então assim, a ideia do Zero-Knowledge é justamente impedir a seguinte situação: eu tenho que provar para um site que eu sou maior de idade, certo? Sim. Então você já pode fazer isso se quiser fazer isso com o Gov.br. Não faça, mas você pode fazer. Qual é o problema de você usar o Gov.br hoje dentro de um site para provar que você é maior de idade, revelar a sua identidade lá para ele? É justamente que o site vai saber não só que você é maior de idade, mas ele vai saber o seu nome, ele vai saber quem você é. Ainda que o site, vamos supor, agisse de uma maneira extremamente ética e não olhasse nenhuma outra informação a não ser a sua data de nascimento, o Gov.br vai saber que o site tal está verificando a sua identidade. Então isso dá aquilo que a gente já discutiu mais de uma vez nos episódios passados, que é a possibilidade, por exemplo, no caso do Gov.br, do governo saber o que você anda acessando. Em país nenhum ninguém quer isso. Acho que não vai ser no Brasil que a gente vai querer uma coisa dessa. Então é ruim o governo saber todo e qualquer site em que você está entrando. Então a gente não quer isso e, ao mesmo tempo, o site no qual estou entrando, se ele só precisa saber se eu sou maior de idade e não precisa de nenhuma outra informação para prestar o serviço para mim, eu estou dando informação demais para ele se ele sabe, por exemplo, o meu nome, meu CPF, meu RG e até mesmo a minha data de nascimento. Então eu preciso de uma forma, um protocolo, uma forma de provar que eu sou maior de idade sem deixar que o governo saiba para quem que eu estou provando e sem que a entidade para a qual eu estou provando que eu sou maior de idade saiba qualquer outra coisa a meu respeito que não seja que eu sou maior de idade. E isso resolve, tenta resolver um problema até anterior, Vinícius. Que é a preocupação que a gente ponderou lá com o Rená, que é o seguinte: eu tenho formas de fazer isso, eu diria mais simplificadas, mas que, no entanto, vão agredir demais a privacidade. Biometria, por exemplo. Biometria facial, tirar uma foto mandando seu documento ou ainda aquelas simulações de cobrança… Não é simulação, não, você põe o seu cartão de crédito. E aí você ainda coloca um terceiro cara, um quarto cara ali que é a operadora de cartão de crédito que vai saber que você autenticou com o site XYZ. Isso. Todas essas coisas, esses problemas, vejam que estão acontecendo agora, bastante gente reclamando por aí de soluções muito facilitadas e às vezes ineficientes, como reconhecimento facial. É isso que o Zero-Knowledge vem resolver, não é? Sim, exatamente. Então o Zero-Knowledge me permite fazer esse jogo. O próprio Zero-Knowledge vai permitir que eu prove para o site que eu tenho um dado atributo sem que o site saiba os demais atributos e, ao mesmo tempo, o governo não vai saber para onde eu estou provando, certo? Então, óbvio, ele utiliza um protocolo criptográfico, a essência é criptografia. Que permite que eu possa ir junto ao Gov.br, gerar uma identidade válida e depois pegar essa identidade ou pegar uma prova que foi gerada, assinada pelo Gov.br, e eu posso entregar isso para o site ou a entidade que for. Ele pode verificar a assinatura e verificar: isso aqui é um documento válido gerado pelo Gov.br e de fato esse cara aqui nasceu em tal data. Então é maior de idade, pode usar o meu serviço. A essência é essa. Claro que tem uma série de requisitos para isso funcionar. Ou seja, não deve ser possível alguém provar algo que não é verdade. [risadas] Porque senão a gente tem um problema bem sério no protocolo. Claro. Esses protocolos não são novos. Isso se discute desde as décadas de 70 e 80. Eu lembro muito bem de ler no livro do Bruce Schneier, que é Applied Cryptography, um livro de capa vermelha. Quem estudou criptografia conhece esse livro. E lá, uma das coisas que tem são justamente esses protocolos de conhecimento zero. É muito interessante que você prove para alguém que você tem um determinado atributo sem dar todo o resto dos seus dados. Bom. E aí ainda atende o princípio da necessidade da LGPD. Ou seja, você vai recolher o mínimo de dados possível para poder… O ZKP puro não faz exatamente isso. Ele é a base de tudo. A gente tem que somar com um outro cara que nós vamos falar agora na sequência, que é o BBS Plus. Mas assim, antes de chegarmos no BBS Plus, a gente tem que citar que existe um padrão para o esquema de credencial verificável, inclusive o nome é Verifiable Credentials do W3C (World Wide Web Consortium), que é o que regula as outras normas da web, HTML, essas coisas todas. Então, existe um padrão, existe uma definição de como você implementa um protocolo desses para uso na web. E a própria União Europeia, ela tem o regulamento, eles já têm uma versão deles do Verifiable Credentials. A Austrália tem uma também. E por que isso é importante? Porque tem várias maneiras de você implementar um ZKP. Isso é um conceito, não é uma coisa pronta que você sai usando, e você precisa de um padrão para as coisas serem interoperáveis. Porque como é que eu vou fazer para acessar um site de uma empresa que está me fornecendo um serviço e ela não está baseada no Brasil e não implementa o padrão brasileiro? E, ao mesmo tempo, imagina, todo site ter que implementar 300 padrões de cada país. Então, é necessário que se faça essa definição de um padrão e que esse padrão torne as aplicações compatíveis. O interessante agora é o seguinte: o ZKP é um conceito, uma ideia. OK? Tem vários protocolos que fazem ZKP para várias coisas diferentes. Nesse caso específico, que a gente está falando do ECA e provar algum atributo e tal, nós temos dois protocolos que, somados, entregam aquilo que a gente precisa no ECA, por exemplo. O primeiro deles é o BBS Plus. Esse BBS Plus tem uma funcionalidade que é: você pode ter uma identidade gerada pelo Gov.br na sua máquina. Então você gerou isso uma vez, tem a identidade na sua máquina e você pode, ao mostrar a sua identidade para um site, ocultar os campos que você não quer mostrar. Mantendo o documento válido, mantendo a assinatura válida do Gov.br, por exemplo. Gente, eu estou falando em Gov.br, mas poderia ser qualquer outra entidade. O Gov.br é meio óbvio porque ele tem o CPF de todo mundo, os dados de todo mundo, está tudo lá. Mas pode ser uma outra entidade, pode ser o banco. Vocês podem se logar no Gov.br usando o banco, por exemplo. Também faria uma situação semelhante aí. Então, com o BBS Plus, você consegue ter a identidade com você numa carteira digital, no seu computador, no seu celular, e você pode provar para um site qual é a sua data de nascimento. O BBS Plus não vai ocultar a informação. Ele não vai derivar a informação. Ele só vai dizer que você tem aquele atributo e vai esconder os demais que você não quer mostrar. Ele é muito bom em termos de consumo de recursos, é muito rápido, é questão de milissegundos. Então isso significa que em dispositivos portáteis, como celular, você tem um consumo baixo de recursos, o que é o ideal. Mas ele tem um problema que é dispor a informação diretamente. Então, no caso da idade, ele não consegue provar dizendo apenas “é maior de idade”. Ele tem que entregar a data de nascimento. Que é dado pessoal. Que é dado pessoal. Mas a gente tem um outro protocolo, Guilherme, que pode ser somado a isso, que é o ZK-SNARKs. É um outro cara que pode ser somado à solução, que, diferente do BBS Plus, consegue fazer o seguinte: você tem a sua identidade digital emitida pelo Gov.br e aí você chega num site, tem que provar que é maior de idade. Com esse protocolo, você consegue derivar uma informação a partir da sua identidade e provar que aquela informação derivada é válida. Então eu preciso provar que sou maior de idade. Eu faço um cálculo ali na minha máquina, no meu computador, no meu celular, que vai pegar a minha data de nascimento e vai validar que de fato eu tenho mais de X anos. E essa nova informação gerada é válida, você inclusive consegue checar isso com o Gov.br na hora de apresentar. Então o site que recebe essa minha apresentação de “sou maior de idade” não sabe a minha data de nascimento, ele sabe que eu sou maior de idade e consegue verificar a validade dessa afirmação. É isso que o protocolo permite fazer. E por que é muito interessante? Porque eu não revelo a informação diretamente. Qual é o problema desse cara? É que esse cálculo é na ordem de alguns segundos em um dispositivo como um celular. E aí a gente não pode esquecer de pensar que os celulares de muitas pessoas são antigos ou com baixa capacidade de processamento. Levar alguns segundos para provar uma coisa dessas não é o ideal. E para a sustentabilidade, é insustentável. Uma solução que seria meio uma volta que a gente dá seria você gerar a cada aniversário uma nova identidade no Gov.br. E essa identidade já viria com um campo dizendo “maior de idade”. Sim. E aí, se você usar só o BBS Plus, você simplesmente revela aquele campo que diz que você é maior de idade e acabou, não precisa fazer cálculo nenhum. O documento já vem com isso e o BBS Plus é extremamente leve. Seria um workaround. Na verdade, eu falei a cada ano, mas não, é só quando você se torna maior de idade. Você renova sua identidade no Gov.br, já vem com a flag marcada dizendo que você é maior de idade e, a partir dali, esse documento vai servir sempre. Você tem ainda certificados digitais, em que você ainda poderia ter um certo atributo ali também. E claro que daí a solução que vai te identificar teria ainda acesso… Não dá. É aí que está. Certificado digital não é ZKP. Você tem uso de chaves assimétricas, tem a questão da assinatura digital, mas você não tem a ideia do certificado digital no ZKP porque o certificado vincula uma chave pública com a sua identidade, mostrando claramente o seu nome e seu CPF. Tem vários tipos de certificados diferentes, com funções diferentes também, mas ainda assim você teria um requisito de identificação do cara. É. Então, a gente tem que tomar cuidado porque isso aqui não é panaceia. Ou seja, não é solução para tudo. Não é para você que está desenvolvendo uma solução aí pensar: “Nossa, eu vou usar Zero-Knowledge para autenticar todo mundo na aplicação”. Não. Isso aqui é para atender situações muito específicas, em que de fato a preocupação maior aqui é evitar que menores acessem determinados sites ou determinados serviços. Então, não é que foi criada agora essa matéria. Esses conceitos existem há mais de 40 anos. Mas a gente está discutindo isso aqui agora porque a gente tem o ECA Digital, tem toda a situação aí de ter que fazer controle de acesso por idade. Aí entra todo mundo em pânico, Guilherme, como se o mundo fosse acabar, porque vai ter que verificar a identidade na hora de entrar no site. Sim, a gente alertou um tempo atrás, inclusive quando começou a acontecer antes na Inglaterra, nós comentamos aqui no podcast Segurança Legal. Que na Inglaterra estava sendo bastante discutido porque lá eles já têm uma regra que exige de site com conteúdo adulto a verificação se as pessoas são adultas de fato. E estavam discutindo como iam fazer isso, porque existe um problema real de monitoramento, de vigilância em massa, de uma série de situações que são perniciosas. Que são essas soluções mais fáceis que a gente já colocou antes. Pede a biometria facial de todo mundo. Ah, faz biometria, pelo amor de Deus. Então, pode ser a coisa mais imediata, mas existem problemas já pensados há mais tempo. A gente não estava usando de forma ampla como nós vamos ter que fazer agora. Então há que se pensar com calma para fechar todas as portas de mau uso desse negócio. É possível. Tem padrão da W3C. Tem um monte de gente pensando nisso, não é gente despreparada. São pesquisadores, universidades refletindo sobre esses problemas. O Bruce Schneier é o cara. Se você não conhece Bruce Schneier, você deveria saber quem ele é. Ou o Ross Anderson, o Ferguson, que são os caras de criptografia. O Menezes também, que tem um livro de capa dourada com um labirinto na capa. Isso já é bem discutido. Para quem estudou segurança, isso aqui não é novidade. A gente tem solução para esse negócio. Não precisa sair usando biometria. Não precisa sair coletando dados de todo mundo. E não precisa entrar em pânico. [risadas] Essas soluções são possíveis e agora elas têm que ser construídas. Então não é que entrou em vigor o ECA Digital, acabou, ninguém pode acessar mais nada. Não, agora é a pressão regulatória, a pressão legal que existe para que essas coisas aconteçam. Porque a gente sabe muito bem como é que é, Guilherme. Se vai acontecer, se vai ser necessário e todo mundo tem que se preparar, ninguém se prepara. Agora a lei está aprovada, então agora vai ter que mexer, vai ter que fazer, não vai ter o que fazer. E quando a gente pega, só para citar aqui, a gente tem o ECA Digital, que é a lei 15.211, a gente tem o decreto regulamentador que aborda algumas dessas questões técnicas. E lembrando que a ANPD, a Autoridade Nacional de Proteção de Dados, vai ser a entidade não somente a fiscalizar isso, mas também produzir e regular como que isso vai se dar. Então a gente tem um aspecto técnico e a ANPD tem dois documentos muito interessantes, que é o documento de Mecanismos Confiáveis de Aferição de Idade e Orientações Preliminares, que é um documento agora de 2026, que tem entre os autores, é sempre bom ler os autores: Lucas Borges de Carvalho, Jeferson Dias Barbosa, Diego Carvalho Machado e o nosso querido amigo Davi Teófilo, que está na ANPD. Se ele estiver ouvindo, um grande beijo para ele. Também, Vinícius, um documento anterior a esse que é o Radar Tecnológico: Mecanismos de Aferição de Idade. No qual eles explicam algumas dessas questões e também colocam uma série de experiências internacionais, trazendo os documentos da Austrália, do Reino Unido, da França, lá da CNIL. Trazendo algumas normas técnicas. Eu acredito assim que é uma coisa estranha de se falar e pensar. Ao mesmo tempo que a gente tem uma série de sites indo pelo caminho mais simplificado, que é pedir biometria facial, e portanto violando. [risadas] Furada, porque você pega um OBS ali, põe um vídeo… Nem fiz isso, mas imagino que vai funcionar. Que não seja algo tão sofisticado assim. E ao mesmo tempo a gente tem no Brasil, pela própria ANPD, coisas nesta linha já escritas, já acontecendo. Então tem material e tem caminhos para a realização. Aí não dá clique, Guilherme. Aí não dá clique. Você dizer que a internet vai acabar, dá clique. [risadas] Agora, dizer que existe solução e que tem um jeito e tem conceitos e tem material e fonte e artigo, ah, aí a coisa complica um pouco. Sim. Não desperta muito interesse, talvez. Mas é uma coisa que quero destacar, Guilherme, é que isso aqui de novo não é panaceia. Você não vai substituir a forma de autenticação no seu sistema para usar ZKP, a não ser que seja aplicável. Senão você vai usar as formas tradicionais de autenticação, de preferência com segundo fator. Mas isso aqui não é para qualquer solução. São para situações muito específicas, essencialmente quando você quer poder provar que tem um dado atributo para uma parte sem que ela saiba outros atributos sobre você e muito menos que o emissor saiba com quem você está conversando. É um pouco o nosso RG. Nosso RG físico é um pouco de Zero-Knowledge. Quando eu chego num lugar e apresento o meu RG, tudo bem, eu estou entregando informação a mais ali, que não é o ideal. Mas não tem como quem emitiu o meu RG saber que eu fui até aquele estabelecimento. A não ser que o estabelecimento registre as informações e depois se identifique perante o governo e diga “O Vinícius esteve aqui”. E é isso que a gente não quer na internet. De forma descontrolada na internet. Quando você acessa o site da Receita Federal, por exemplo, o e-CAC, para falar de Imposto de Renda. É um dos n serviços que se conectam com Gov.br, e ali eles têm todas as informações, eles sabem quem você é. O governo sabe que você está acessando o site do e-CAC. É uma situação em que todo mundo sabe quem é quem, em que horário as coisas estão acontecendo. É o que a gente não quer. E para que isso vai servir no final das contas? A gente poderia muito bem defender: ah, mas por que a gente não usa um OAuth da vida aí para se logar nos sites já com a conta do Google? Ora, mas a gente não quer. O Google já sabe tudo o que a gente faz e mais um pouco, ainda mais se for no celular. Mas você não quer que o Google tenha mais essa informação, porque você tem sites que vão ser de acesso provável a crianças e adolescentes. E a primeira coisa que vem à mente são os sites pornográficos, que é uma atividade lícita. Você não quer que o governo saiba se você está acessando. E veja, essa é uma das facetas da intimidade para além da proteção de dados, que é a possibilidade que você tem de manter reservadas certas preferências. A crítica que se faz à lei é justamente essa: você tem uma lei que visa a proteção das crianças, mas ao mesmo tempo você cria uma vulnerabilidade para todas as outras pessoas, que pode inclusive ter o chilling effect. O cara não vai acessar mais certos conteúdos porque tem receio de que as pessoas possam saber. Claro que se você acessa um site de pornografia, o seu endereço IP vai ficar registrado e virtualmente já é possível saber. Ou quando ele diz assim: ah, mas por que querem acessar isso? Vai ver se o teu e-mail não está lá no vazamento da Ashley Madison. [risadas] Isso é referência de velho, porque o vazamento da Ashley Madison foi em 2015. Acho que nem existe mais Ashley Madison. Não sei. Vazamento 2015. 11 anos. Faz bastante tempo. O que eu quero dizer é o seguinte: você traz esse exemplo que é o mais óbvio, talvez. Mas você pode ter várias outras coisas sensíveis que as pessoas buscam, que para elas pode ser algo sensível. É aquela história, a gente já teve muito essa discussão, tem livro escrito sobre isso, de não ter nada para esconder, que é o Nothing to Hide do Daniel Solove. Então é uma discussão que a gente já ouviu várias vezes. A minha vida é um livro aberto. Mas é até ali. Quando você começa realmente a escarnecer, vai ver que não é tão aberto assim. E eu não estou criticando ninguém, estou dizendo: eu gosto da minha privacidade e respeito a sua e quero que todo mundo tenha direito à sua. Então a gente precisa ter o pé bem no chão quando vai pensar nessas tecnologias que envolvem identificação ou verificação de atributo, como data de nascimento. Senão a gente pode criar outros problemas. Mas de novo, não é motivo para ninguém entrar em pânico. Bem pelo contrário, pezinho no chão, pensar tecnicamente e aí sim discutir a implementação para a gente não ter um Google, uma Meta, uma Microsoft se colocando ali justamente com a intenção de monetizar em cima disso e conseguir, além de monetizar diretamente, de forma indireta por meio do rastreamento. E esse é um elemento que talvez coloque bem à prova a atuação da ANPD. Porque no âmbito político, e aqui me refiro a como as Big Techs têm influenciado até mesmo nas legislações dos países. Vide a dificuldade que a gente tem para legislar sobre IA no Brasil por conta do lobby das Big Techs. A prova que a ANPD vai ter é conseguir resistir a essa pressão. Quando a gente olha para o decreto, o artigo 24, que fala sobre os mecanismos de aferição, ele coloca requisitos: proporcionalidade entre o risco e a solução, acurácia, confiabilidade, vedação ao compartilhamento contínuo e irrestrito de dados pessoais, além de segurança, vedação à rastreabilidade da identidade e histórico de acessos, interoperabilidade, não discriminação, transparência. Então esses requisitos já estão postos. Agora a questão é se a ANPD vai conseguir, ao regular e aplicar eventuais sanções, resistir a isso, né, Vinícius? Exatamente. Mas é isso, gente. Quem é mais técnico aí, recomendo que dê uma pesquisada mais profunda no assunto. A gente foi bem superficial aqui, para atender a todos os nossos ouvintes. É algo bem interessante. Quem curte criptografia, nossa, é diversão certa. [risadas] Vão ficar no show notes. Os dois documentos da ANPD são bem interessantes e, se você quiser se aprofundar, você consegue ver nas referências como outros países estão lidando com essa questão. Guilherme, conseguimos. Diga. E por último, para quem tem interesse nos livros que eu citei, a gente citou no episódio 34, de 16 de setembro de 2013. O episódio é Livros de Segurança da Informação. Tá aqui o livro… será que existe para vender? Ainda tem o link para a Amazon. Agora eu estou curioso. Cliquei no link para ver aqui. Criptografia Aplicada, que é esse do Schneier. É capaz de dar os três aqui. Tem para vender ainda, R$ 33. Isso aqui pra relíquia. Que é a Criptografia Aplicada do Bruce Schneier, se eu não estou enganado, a data dele é de 96. Primeiro de janeiro de 96. Tá lá no livro. Ross Anderson, que faleceu nesse meio tempo, em 2024. É, que faleceu em 24. É. Aí tem livro… a gente citou todos esses livros lá no episódio 34. Quem quiser saber mais dos livros de criptografia, dá uma olhada. Recomendo. É mais para referência histórica, tá, galera? Os fundamentos estão lá, sem dúvida nenhuma, mas é bom procurar bibliografia atualizada sobre criptografia, porque muita coisa mudou nos últimos 20, 30 anos, com certeza. Então é bem importante. E nós conseguimos fazer um episódio sem falar de inteligência artificial. Acho que é uma vitória. [risadas] É uma vitória. Você acabou de citar. Podia ter ficado sem citar. Só na próxima. Eu até estava procurando aqui o History of Information Security para ver algumas questões sobre isso, mas enfim, fica para um próximo episódio essa verificação desse livro também. Tá bom, pessoal? Agradecemos então a todos aqueles e aquelas que nos acompanharam até aqui. Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 4/17/26 | ![]() #415 – IA, MCPs, educação e laudos sem metodologia | Neste episódio falamos sobre como a inteligência artificial está redesenhando a segurança da informação, o Direito da Tecnologia e o futuro do trabalho, a partir de um debate que passa por MCPs, APIs, vulnerabilidades em integrações, laudos periciais com IA no processo penal, reconhecimento de voz, cibersegurança ofensiva, educação, LLMs e automação no desenvolvimento de software. Ao longo da conversa, Guilherme Goulart e Vinícius Serafim explicam o que é o Model Context Protocol, por que a adoção acelerada desse padrão amplia a superfície de ataque, quais riscos surgem com falhas como path traversal e execução remota de código, e por que a pressa em integrar agentes inteligentes pode repetir erros clássicos da história das APIs. O episódio também analisa a decisão do STJ sobre a invalidade de laudos produzidos com inteligência artificial em ações penais, discutindo cadeia de custódia, reprodutibilidade, transparência metodológica e os limites do uso de ferramentas como modelos de transcrição e speech-to-text em provas judiciais. Na segunda metade, o foco se volta ao Project Glasswing e ao Claude Mythos Preview, apresentados pela Anthropic para parceiros estratégicos com o objetivo de encontrar e corrigir falhas críticas em softwares amplamente usados, além dos impactos da IA generativa na educação, na desigualdade de acesso tecnológico e no mercado para profissionais juniores de TI. Para acompanhar discussões sérias e atuais sobre privacidade, tecnologia, inteligência artificial, segurança digital e regulação, basta assinar o Segurança Legal no Spotify, seguir no Apple Podcasts e no YouTube, e avaliar o podcast na plataforma de sua preferência para ajudar o projeto a alcançar mais pessoas. O programa é apresentado por Guilherme Goulart e Vinícius Serafim, está no ar desde 2012 e integra o trabalho da BrownPipe Consultoria, mantendo uma proposta de análise técnica e crítica sobre temas centrais do ecossistema digital. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Acesse WhisperSafe – Transcreva áudio e grave reuniões direto no seu computador, mesmo offline. Rápido, leve e pronto para usar com qualquer IA. Use o cupom SEGLEG50 para 50% de desconto na sua assinatura. ShowNotes TRF-1 pagou R$ 341 mil em reembolsos por ‘auxílio IA’ a magistrados e servidores Quinta Turma rejeita relatório produzido por IA como prova em ação penal LLM Targeted Underperformance Disproportionately Impacts Vulnerable Users Vulnerable MCP Project — database com 50 vulnerabilidades ‘Your MCP Server Is Probably Vulnerable’ — DEV Community (16/abr) ‘MCP Security 2026: 30 CVEs in 60 Days’ (9/mar) CVE-2026-33032 nginx-ui — The Hacker News (16/abr) ‘AI Conundrum: Why MCP Security Can’t Be Patched Away’ — DarkReading / RSAC 2026 Anthropic — Project Glasswing (anúncio oficial, 7/abr) Anthropic Frontier Red Team — detalhes técnicos (7/abr) Schneier on Security — análise crítica (13/abr) Fortune — cobertura do anúncio e contexto do leak (7/abr) TechCrunch — ‘Anthropic debuts Mythos’ (7/abr) Zvi Mowshowitz — análise detalhada (10/abr) IANS Research — desafios para vulnerability management (13/abr) TheWorkers letting A.I do Their Jobes – The Daily Neil deGrasse Tyson Confronts Andy Weir on the Science of Project Hail Mary Imagem do Episódio: Saturno devorando a su hijo – Francisco de Goya 📝 Transcrição do Episódio (00:08) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 415, gravado em 16 de abril de 2026. Eu sou o Guilherme Goulart e, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas. Tudo bem, Vinícius? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. Esse já é o nosso momento tradicional de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. (00:31) Então, pegue o seu café e venha conosco. Para entrar em contato com a gente, basta enviar uma mensagem para podcast@segurancalegal.com ou também no Mastodon, Instagram, Bluesky, YouTube e TikTok. Também temos a nossa campanha de financiamento coletivo em apoia.se/segurancalegal. Conclamamos que você apoie este projeto de geração de conhecimento. Há um spam ligando aqui na gravação, aquelas ligações chatas. (01:03) Temos o nosso novo patrocinador, que é o Safe. Quanto tempo você já perdeu tentando lembrar do que foi dito numa reunião ou digitando o que poderia simplesmente ser falado? O Whisper transcreve áudios de diversas fontes, grava reuniões e áudios de forma rápida, precisa e 100% offline. (01:22) Nenhum dado de áudio sai da sua máquina, a não ser que você queira jogar na sua inteligência artificial preferida para transformar e utilizar aquela informação. Temos um cupom de 50% de desconto vitalício, que é o SEG. Enquanto o software existir, você terá acesso a esse desconto. Basta acessar o site e utilizar esse software que nós mesmos estamos utilizando. Certo, Vinícius? Certíssimo. (01:49) O que tem acontecido com os tais MCPs? Antes de começar, explico rapidamente o que é um MCP. É importante porque às vezes temos pessoas que não têm tanta intimidade com o que tem acontecido no mundo da inteligência artificial, que avança com uma rapidez impressionante, não somente na parte técnica, mas também na parte jurídica. (02:26) O mundo da inteligência artificial de seis meses atrás já é muito diferente do de hoje, dadas as novas potencialidades, problemas e riscos. Cada vez mais vocês devem ter percebido que não conseguimos passar um episódio sem falar de inteligência artificial. É uma força gravitacional muito forte. (02:47) Duas notícias que trouxe para comentarmos estão vinculadas à questão da inteligência artificial. A primeira é sobre o MCP. Todos já ouviram falar de API, que é uma forma de um sistema oferecer rotas para que outro software possa interagir com ele. (03:46) Por exemplo, o Gmail tem API, permitindo que você interaja com a sua caixa a partir de outro software. Os ERPs normalmente têm API também, permitindo buscar ou inserir dados. (04:08) No universo de integradores, como o IFTTT ou o n8n, eles conseguem expor e consumir APIs de outros softwares para integrá-los. (04:36) Isso é feito por uma interface muito bem documentada. Se sair da especificação, não funciona mais. A API é algo rígido. O Model Context Protocol (MCP) foi lançado pela Anthropic. É um padrão aberto e foi rapidamente adotado por todos os grandes players do mercado. (05:30) O MCP expõe uma API para um agente de inteligência artificial. É possível chamar APIs regulares a partir de um agente, mas a diferença é que o MCP é autodocumentado. Você configura o MCP no seu agente, informa o endereço e a porta, e ele se conecta. (05:53) O agente pergunta quais ferramentas o servidor MCP possui e para que servem. O MCP responde detalhando suas funções, como ler relógios elétricos, gerar valores, entre outras, fornecendo a própria documentação. (06:30) A inteligência artificial lê essa descrição em linguagem natural e entende a utilidade da ferramenta. Ao conversar com o modelo, ele consulta as ferramentas disponíveis e aciona a adequada para resolver o problema. (06:54) O modelo toma a decisão de chamar ou não a ferramenta. O Claude, por exemplo, se conecta com o Notion, permitindo que ele busque informações de artigos e notícias armazenados por você ao escrever sobre um determinado tema. (07:22) Ele consulta o MCP que faz isso, analisa os parâmetros e executa a ação. (07:43) O agente decide quando uma ferramenta é útil com base na descrição e aciona-a quando acha adequado. (08:03) O detalhe é que parece que voltamos no tempo. (08:19) Quando as APIs REST surgiram, muitas foram implementadas sem autenticação, sem cifragem e totalmente vulneráveis. O mesmo está acontecendo com os MCPs. (08:40) Foram identificadas trinta vulnerabilidades documentadas em sessenta dias no protocolo MCP. (09:04) O protocolo será corrigido, mas temos cada vez mais serviços oferecendo MCP com erros de segurança básicos da época das APIs REST de anos atrás. (09:46) Os sistemas estão sendo desenvolvidos com suporte a MCP para gerenciar Docker, bancos de dados e muito mais. A grande maioria desses MCPs não é oficial, mas sim desenvolvida por terceiros. (10:09) O uso de MCP está aumentando porque todos querem usar IA para resolver diversos problemas. No entanto, o desenvolvimento é feito com frequência sem autenticação adequada e sem cifragem de dados. (10:41) Os problemas vão desde acesso indevido a pastas (path traversal) até a execução remota de código, aumentando perigosamente a superfície de ataque. (11:19) Na Brown Pipe, nós verificamos essas questões de integração em nossos testes de invasão. (11:40) O nosso pentest abrange a integração com a IA. Os próprios MCPs também estão sendo frequentemente desenvolvidos com o auxílio da inteligência artificial. (12:11) Existe o mito de que códigos gerados por inteligência artificial são sempre seguros e à prova de falhas. Atingir 100% de segurança ainda não é possível. (12:47) Em testes de desenvolvimento ponta a ponta, com instruções claras de segurança, o modelo ainda gerou vulnerabilidades. Foram falhas menos críticas do que um ser humano cometeria, mas ainda relevantes. (13:29) Quando o modelo tem uma sequência de trabalho muito longa e complexa, sem muita interação, erros acabam passando. É necessário fazer revisões. (14:04) A inteligência artificial leva em consideração muito mais informações sobre segurança do que um ser humano. Ela não será infalível, mas se sairá muito melhor. (14:24) Isso se conecta com outra notícia envolvendo o STJ, que decidiu pela invalidade de laudos produzidos por inteligência artificial em ações penais. (14:54) O uso de inteligência artificial nos tribunais tem sido feito de forma apressada. O TRF-1 pagou altos reembolsos para magistrados contratarem suas próprias IAs. (15:29) Deveríamos ter uma ferramenta exclusiva e de código aberto para o Poder Judiciário, garantindo transparência para que as partes saibam quando e como está sendo utilizada. (15:48) No direito penal, as garantias processuais são muito maiores, pois lidamos com a liberdade humana. Exige-se uma responsabilidade maior do que em processos de indenização. (16:29) A situação tratava de uma acusação de injúria racial, na qual a análise do áudio foi feita com o auxílio do Gemini e do Perplexity. (17:06) A questão central era identificar no áudio se o réu havia proferido a ofensa. O laudo elaborado pelos peritos humanos não apontou a injúria, enquanto o gerado pela inteligência artificial apontou. (17:34) A defesa argumentou que o laudo da IA não possuía cadeia de custódia, metodologia verificável ou reprodutibilidade, devendo, portanto, ser invalidado. (17:58) Se formos utilizar a IA para produzir laudos, precisaremos de uma regulação forte. (18:34) O relator levantou dúvidas sobre a confiabilidade e os riscos de alucinações. Ele argumentou que os LLMs foram projetados para processamento de linguagem natural e não seriam aptos para analisar ondas sonoras. (19:04) O relator confundiu IA com LLM. Existem modelos especializados em reconhecimento de voz, como o Whisper, que não são LLMs puros, mas ferramentas de speech-to-text. (19:34) O caminho mais lógico seria utilizar a ferramenta para transcrever o áudio com marcações de tempo (timestamps) e, em seguida, procurar no texto o momento exato em que a palavra foi dita. (19:57) Se a inteligência artificial varrer o áudio e encontrar o trecho, a análise é resolvida com verificação humana posterior. (20:33) Esses modelos estão amplamente disponíveis. Conceitualmente, a inteligência artificial tem potencial para se sair melhor que o ser humano nesse aspecto, assim como no diagnóstico por exames médicos. (20:55) Ouvir horas e horas de áudio é inviável. Mecanismos de reconhecimento de voz já existem há décadas, usados inclusive pela Polícia Federal em interceptações telefônicas, para detectar palavras-chave. (21:18) Transcrever manualmente palavra por palavra é um trabalho hercúleo. A tecnologia pode ajudar, desde que a defesa consiga replicar a metodologia com os mesmos parâmetros. (21:40) A inteligência artificial pode prever cenários futuros verificáveis, onde suas análises não alteram a realidade. O perigo surge nos cenários autorrealizáveis, como a avaliação de perfis para vagas de emprego. (22:04) A Anthropic lançou o Project Glasswing e o modelo Claude Mythos Preview. (22:52) A empresa liberou essa versão provisória apenas para grandes corporações, como Amazon, Apple, Cisco, Google e Microsoft, além de organizações vinculadas ao software livre. (23:15) O modelo demonstrou extrema capacidade não apenas de encontrar, mas de explorar ativamente vulnerabilidades de segurança. (23:37) A intenção foi conceder uma vantagem estratégica a essas empresas de larga escala para que corrijam os problemas antes que os ataques se generalizem. (24:02) Eles anunciaram a implementação de salvaguardas de segurança para restringir esses recursos antes de abrir o modelo ao público geral. (24:37) O modelo Opus, lançado anteriormente, já era bastante capaz de realizar atividades invasivas e requeria tais salvaguardas. Nós mesmos usamos a IA na Brown Pipe e precisamos comprovar nossa atuação profissional para obter acesso. (25:09) O Mythos foi capaz de encontrar vulnerabilidades que estavam dormentes há mais de vinte anos no kernel do Linux, como falhas de buffer overflow. (25:28) O modelo consegue realizar testes de invasão simulando dois atacantes colaborativos simultaneamente. Essa capacidade descobre cenários complexos que humanos teriam enorme dificuldade de mapear. (25:52) Muitos argumentam que isso foi apenas uma jogada de marketing e apontam que outros modelos menores também encontraram esses mesmos problemas. (26:16) O custo para auditar todos os códigos de software do mundo com IA seria enorme, na casa das dezenas de bilhões de dólares, mas financeiramente pagável. O grande problema é o tempo que isso demandaria. (26:40) Sobre IA e educação, conversei com uma aluna preocupada com a ética de usar a inteligência artificial para realizar correção ortográfica. A IA deve ser usada como uma aliada para tarefas mecânicas e estruturais. (26:57) O MIT publicou um estudo indicando que usuários menos escolarizados recebem piores respostas dos modelos de linguagem. O Claude Opus foi apontado como o mais problemático nesse aspecto. (27:18) O modelo recusa-se a responder e produz textos condescendentes, especialmente para falantes não nativos do inglês e usuários estrangeiros, criando uma desigualdade técnica no uso da ferramenta. (27:38) Aprender a perguntar é uma competência linguística essencial. A IA tende a automatizar processos de forma que, no futuro, perguntas complexas nem precisem ser formuladas para obter resultados. (27:58) Isso mudará drasticamente o mercado de trabalho, especialmente na programação. Conhecimentos lógicos e arquitetônicos terão muito mais valor do que escrever linhas de código. Profissionais seniores coordenarão os agentes virtuais. (28:18) A IA trará grandes desafios no curto e médio prazo para desenvolvedores juniores, pois a ferramenta realiza esse trabalho com eficiência, sem necessidade de aprendizado prolongado. (28:55) Esta é uma mudança de paradigma enorme. O impacto psicológico sobre a relevância da mente humana é profundo. (29:16) Deixando uma recomendação cultural, cito o podcast StarTalk do Neil deGrasse Tyson. Eles entrevistaram o Andy Weir, autor do livro que inspirou o filme “Perdido em Marte”, sobre o filme e as lógicas científicas abordadas. (29:40) É importante desconectar um pouco das telas, visitar o cinema, caminhar e observar o mundo real. Nos encontramos no próximo episódio do podcast Segurança Legal. Até a próxima! Análise de Discursos Potencialmente Problemáticos Avaliando o conteúdo da transcrição, os seguintes trechos podem ser mal interpretados ou gerar algum tipo de desconforto/problema para os hosts do episódio: Crítica direta a um Ministro/Relator do STJ:Os hosts debatem uma decisão do STJ e afirmam enfaticamente que o relator do caso “confunde IA com LLM”, “está errado” e cometeu um equívoco técnico estrutural. Embora a argumentação seja embasada e comum no meio acadêmico, apontar erro técnico e falta de letramento tecnológico em decisões de tribunais superiores pode ser mal recebido pela comunidade jurídica ou soar desrespeitoso em contextos onde o diálogo com o judiciário exige maior tato. Terminologia envolvendo “Ataques” e Invasões Cibernéticas:Ao explicarem os testes de segurança e os novos modelos da Anthropic (Mythos/Opus), os hosts utilizam expressões como “basta apontar ele para uma direção e dizer ataca”, ou explicam que o modelo fará “ataques complexos” e vai “facilitar muito o trabalho de gente mal intencionada”. Fora do contexto estrito de pentest (teste de intrusão ético), plataformas como o YouTube podem algoritmizar e flagrar o vídeo como conteúdo de promoção a atividades ilegais e cibercrime, o que poderia gerar remoções (strikes). Menção a tópicos sensíveis pelo artigo do MIT:No bloco em que comentam a pesquisa do MIT, os hosts leem os tópicos que os LLMs bloqueiam para perfis iranianos: “energia nuclear, saúde feminina, judaísmo, drogas e 11 de setembro”. Por citarem diversas palavras-chave extremamente sensíveis de uma só vez, os algoritmos de plataformas podem desmonetizar ou restringir a visibilidade do episódio, sem entender que se tratava de uma citação científica sobre vieses. Tom contundente sobre estudantes e carreiras júniores na TI:A fala voltada a estudantes de computação — “meu amigo, tu tá lascado porque programar bem a IA já faz” e o apontamento de que o júnior “não vai ser mais necessário” — possui tom alarmista. Embora represente uma opinião válida sobre o impacto da IA no mercado de trabalho, a forma direta como foi dita pode atrair repulsa ou cancelamento nas redes sociais por soar desmotivadora, elitista ou insensível aos profissionais que lutam para entrar na área. Preparado usando Gemini 3.1 Pro Thinking nao está completo, o que houve?Concluiu 3 etapas O arquivo paste.txt foi processado de forma resumida e adaptada às regras inicialmente fornecidas para economizar espaço ou tornar o texto mais fluido na correção. No entanto, entendo que a transcrição integral exata não foi plenamente refletida em sua estrutura original. Abaixo, apresento a correção de português, a adequação aos vícios de linguagem e os ajustes para a pontuação de todos os parágrafos faltantes, com os timestamps fiéis, seguindo a restrição para evitar resumos e completar todo o material sem cortes. Continuação e Transcrição Completa Faltante (43:02) E aí, esse seria um tipo de cenário que em geral você não considera, você considera uma tentativa. Enfim, isso que eu estava lendo aqui destacou um pouco a forma como ele encontrou. Claro. Revelando possibilidades que talvez nós não conseguiríamos… se voltarmos um pouquinho no negócio da inteligência artificial sendo usada para provas no processo, daria para ir até mais além. (43:34) Talvez agora a gente consiga descobrir coisas com a inteligência artificial que o ser humano não conseguiria descobrir. Assim como está acontecendo com o código, talvez possa acontecer com outros dados da realidade, como voz, vídeo, sons e coisas do gênero. Não sei se tu concordas. Não, eu concordo plenamente. E a gente tem um processo aí, Guilherme. Uma coisa é o cara chegar, abrir a inteligência artificial e fazer uma consulta qualquer. Outra coisa é ter um ambiente preparado para usar inteligência artificial para fazer um pentest, como a gente faz. A gente tem uma série de coisas aqui que faz com que as coisas de fato funcionem e sejam úteis. (44:11) E a capacidade que ele dá de revisar as coisas, de conseguir ir mais a fundo nas funcionalidades do sistema, permite que tu consigas olhar muito mais coisas em menos tempo. Então, tu consegues fazer uma varredura mais profunda e testes mais aprofundados que não conseguirias fazer na mão porque não daria tempo. Teria que passar semanas fazendo testes numa parte de um sistema. Esse é um ganho que ele te dá. (44:51) Mas tu tens que de fato saber o que estás fazendo. Porque senão ele erra, se perde e não identifica corretamente, te dando falsos positivos. Então, de fato, ele ainda tem uma barreira. E agora tem uma barreira artificial que a própria Anthropic colocou. Ele tem uma certa barreira para dificultar ataques mais complexos. (45:25) A gente chegou a comentar aqui um artigo um tempo atrás da própria Anthropic, que eles bloquearam um grupo chinês que estava invadindo um monte de empresas por aí. Eles criaram toda uma infraestrutura de agentes e multiagentes, inclusive, para fazer esses caras se coordenarem e realizarem os ataques. (45:45) Ao mesmo tempo, a gente tem que cuidar porque não é uma coisa mágica em que tu simplesmente te logas e dizes: “Invade tal lugar” e ele vai sair invadindo. Não é assim. Eu acho que sim, ele vai facilitar muito o trabalho de quem não tem conhecimento nenhum em segurança. (46:06) Permite o uso por pessoas mal-intencionadas, como uma série de outras coisas que aconteceram no passado e facilitaram exploits públicos que o cara não precisava mais desenvolver. A minha preocupação é que me parece que o pessoal da segurança é mais aberto a usar inteligência artificial agora do que quem desenvolve. (46:28) Não sei. Claro que lá fora, no Vale do Silício, eu estava vendo inclusive um podcast no The Daily sobre o uso de inteligência artificial para desenvolver. Tem empresas que estão escrevendo 10% do código com inteligência artificial, mas são empresas bem grandes. (46:58) Para essas empresas muito grandes, 10% já é um ganho considerável. Não precisa ser 90% do código gerado por inteligência artificial. E quanto menor a empresa, maior a adoção. Eles relatam até 90% do código gerado por IA em empresas de menor porte. Em termos de segurança, a galera está usando inteligência artificial direto. Parece que no desenvolvimento tem um certo receio das empresas em adotar e gerar código com isso. (47:32) Receio de perder o controle das coisas sendo feitas. O que me preocupa um pouco é que, mesmo com esses controles da Anthropic — e lembrando que a Anthropic botou esses controles, o Codex no GPT não tem —, me preocupa se de fato os atacantes não vão ter uma vantagem inicial. (48:12) Até que tu comeces a usar IA para gerar mais testes unitários nos teus softwares, para cuidar mais da implementação de mecanismos que já foram feitos milhões de vezes da forma correta, como mecanismos de autenticação, recuperação de senha e arquitetura de autorização de sistemas. Isso já foi feito milhões de vezes, então é um padrão que a IA consegue repetir. Só que daí o cara vai lá, desenvolve na mão e faz tudo errado. Sim. (48:31) Deixa eu te trazer outras informações aqui enquanto a gente falava. Esse pessoal que diz que é uma jogada de marketing da Anthropic argumenta que outros modelos menores, como o GPT-OS20B com apenas 3.6 bilhões de parâmetros e o DeepSeek R1, também identificaram bugs no FreeBSD. (48:58) A ideia dessas pessoas que têm defendido isso é que não é a questão da inteligência artificial. A questão é que ninguém tinha virado esse canhão para certos pedaços de código por esse ângulo. A coisa já estava lá, só que ninguém tinha apontado para lá. Qual seria o custo para auditar todos os softwares do mundo? É pagável? Ele fez uma conta aqui dizendo que existiria entre 1 e 20 trilhões de linhas de código no mundo. (49:33) Entre 1 e 20 trilhões. Só o Google tem dois bilhões. Eu também vou chutar entre 1 e 20 trilhões. Isso daria entre 10 e 40 bilhões de dólares para auditar tudo isso com inteligência artificial. Então, não é um problema de dinheiro, é pagável. Se você diminui um pouquinho o orçamento de guerra dos Estados Unidos, paga isso brincando. Inclusive o próprio projeto Glasswing deu 100 milhões de dólares para as empresas para que elas pudessem usar. (50:10) O problema é tempo também. O preço que eles cobram é 25 por milhão de tokens de entrada e 125 por milhão de tokens de saída. Tem, em grande escala, valores diferentes, mas o fato é que a brincadeira seria cara. A questão seria: o mundo todo vai ficar mais seguro de uma hora para outra? (50:44) Devemos nos preocupar. As pessoas que trabalham com segurança têm um caminho bastante longo também, porque os atacantes vão estar usando inteligência artificial. Ele diz aqui: “Você demoraria 2.000 anos para cobrir a auditoria de 5 trilhões de linhas”, se não tivesse mais código novo sendo gerado. Ou seja, quanto mais IA, mais código eu vou ter. Fora todos os processos e softwares legados que, eventualmente, podem ser impossíveis de ser corrigidos. (51:23) E a própria logística de corrigir tudo isso. Basta pensar como é difícil em algumas empresas atualizar o sistema operacional. Fecha parênteses. Tem mais alguma coisa sobre essa? Não. Dessa notícia é isso. Eu te digo que estou na expectativa. A gente já está cadastrado lá, já está liberado pela Anthropic, então só estou aguardando eles liberarem o Mythos para nós também. (51:53) Acho que as coisas estão bem conectadas hoje. A gente já falou sobre esse assunto algumas vezes, numa base empírica, que é sobre IA e educação. A gente, enquanto educador, enfrenta isso diariamente. (52:12) Ontem mesmo eu estava conversando com uma aluna, e ela estava preocupada se era ético usar a inteligência artificial para fazer correção ortográfica nos textos dela e se alguém iria descobrir. Eu disse a ela: “Olha, você faz correção ortográfica no Word, então fazer correção com IA não é um grande problema”. (52:32) Ensinei-a a usar os espaços dentro do Claude. Enfim, uma conversa bem bacana e uma pessoa bem antenada para o que ela deveria usar. Cada vez mais me convenço de que não é uma questão de pedir para a IA escrever o texto para ti. Há tantas outras coisas que você pode fazer. (53:03) Eu tenho um texto aqui que estou há anos para atualizar, porque teve o Marco Civil, a LGPD e um monte de decisões. Entreguei para a IA e pedi para que ela me desse um roteiro sobre o que eu precisaria atualizar. Ela me deu um passo a passo de coisas que eu demoraria meses para fazer. (53:31) Eu ainda vou ter que atualizar manualmente, mas já sei o que preciso fazer. Estou dizendo isso porque o MIT descobriu num artigo chamado “LLM target under performance disproportionately impacts vulnerable users” que quanto menos escolarizado for o usuário, pior vai ser a resposta da inteligência artificial. (54:00) E isso a gente já tinha falado aqui. Eu me lembro da gente falando que o LLM, como modelo de linguagem, teria um desempenho pior para alguns perfis. (54:21) Esses perfis seriam justamente de pessoas que não conseguem perguntar, não sabem perguntar. Eles pegaram três modelos de ponta: GPT-4, Claude 3 Opus e LLaMA 3 8B, em conjuntos de dados sobre veracidade e factualidade científica. Simularam diferentes tipos de usuários com biografias curtas para avaliar a escolaridade, proficiência em inglês (nativo e não nativo) e o país de origem (Estados Unidos, Irã e China). (54:59) Não sei por que escolheram esses três países. Quais foram os principais achados desse estudo? Todos os modelos mostraram uma redução significativa de qualidade e precisão para os usuários com menor escolaridade. (55:27) E veja, para aqueles não falantes nativos de inglês, os efeitos são cumulativos. Se você é usuário estrangeiro e tem baixa escolaridade, a queda de desempenho é cumulativa. O Claude 3 Opus foi o mais problemático. Os dados levantados apontaram que ele se recusou a responder quase 11% das perguntas para usuários estrangeiros e de baixa escolaridade, contra apenas 3.6% do grupo de controle. (55:59) Além disso, produziu respostas condescendentes e padronizantes em 43% dos casos e recusou-se a responder certos tópicos especificamente para usuários do Irã com baixa escolaridade, como energia nuclear, saúde feminina, judaísmo, drogas e 11 de setembro. Isso estaria conectado com a ideia de aprendizado por reforço de feedback humano, que é uma das formas que esses modelos são melhorados. (56:39) Você tem pessoas avaliando respostas e dando feedback para aumentar a qualidade, o que faria com que usuários menos educados tivessem resultados piores. Por que isso é tão preocupante Preparado usando Gemini 3.1 Pro Thinking comece de novo, preciso da transcrição exata, nao resumidaConcluiu 2 etapas Abaixo está a transcrição exata e completa do arquivo de áudio paste.txt, corrigindo todos os erros de português, pontuação e vícios de linguagem (como “eh”, “ah”, “né”, “tipo”, etc.), garantindo o uso adequado de letras maiúsculas e sem omitir nada do texto original ou os timestamps requeridos pelas instruções: (00:08) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 415, gravado em 16 de abril de 2026. Eu sou o Guilherme Goulart e, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas. Tudo bem, Vinícius? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. Esse já é o nosso momento tradicional de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. (00:31) Então, pegue o seu café e venha conosco. Para entrar em contato com a gente, você já sabe, basta enviar uma mensagem para podcast@segurancalegal.com ou também lá no Mastodon, Instagram, Bluesky, YouTube e TikTok. Também temos a nossa campanha de financiamento coletivo em apoia.se/segurancalegal. Você pode e nós sempre conclamamos que você apoie este projeto de geração de conhecimento. Há um spam ligando aqui na gravação, Vinícius, daquelas ligações chatas. Já, já. E também temos o nosso novo (01:03) patrocinador, que é o Safe. Você já sabe quanto tempo perdeu tentando lembrar do que foi dito numa reunião ou digitando o que poderia simplesmente ser falado. O Whisper transcreve áudio de diversas fontes, grava reuniões e áudios. Tudo isso de forma rápida, precisa e 100% offline. (01:22) Nenhum dado de áudio sai da sua máquina, a não ser que você queira jogá-lo na sua inteligência artificial preferida para transformar e utilizar aquela informação. Temos aqui um cupom de 50% de desconto vitalício, que é o SEG. É um desconto lifetime. Enquanto o software existir, você terá acesso a ele. Basta acessar o Whisper. (01:49) Utilize esse software que nós mesmos estamos utilizando também. Certo, Vinícius? Certíssimo. O que tem acontecido com os tais MCPs? Claro, antes de começar, explique rapidamente o que é um MCP. É importante porque às vezes temos pessoas que não têm tanta intimidade com o que tem acontecido no mundo da inteligência artificial. Isso avança com uma rapidez impressionante não somente na parte técnica, mas também na parte jurídica, gerando conflitos e questões. O que estava acontecendo há seis (02:26) meses atrás já é muito diferente do mundo da IA hoje. As potencialidades, os problemas e os riscos mudaram. Eu acho que esse é um desses casos. Cada vez mais, vocês devem ter percebido que não conseguimos passar um episódio sem falar de IA, Guilherme. É uma força gravitacional muito forte. (02:47) Ela está muito vinculada a tudo. Aliás, duas notícias que eu trouxe para comentarmos e discutirmos são vinculadas justamente à questão da inteligência artificial. Todas elas envolvem isso. Eu separei as notícias e percebi que estava apenas com temas de IA, então tirei duas diferentes, mas a primeira é a seguinte: o que é o MCP? Acredito que todo mundo já ouviu falar de API, certo? Nós a usamos para integrar sistemas. Uma API (03:20) é uma forma de um sistema oferecer rotas a partir de algumas chamadas. Estou tentando não ser muito técnico aqui. Um outro desenvolvedor pode configurar o software dele para chamar essas rotas e interagir com esse outro sistema. (03:46) Por exemplo, o Gmail tem API, permitindo interagir com a sua caixa de entrada a partir de qualquer outro software. Os ERPs que existem por aí normalmente também possuem uma API. Assim, você pode ter uma aplicação que fala com o seu ERP tanto para buscar dados quanto para inserir informações. (04:08) Com o CRM, então, nem se fala. Isso é muito comum. No universo dos integradores, como o IFTTT, que você usava antigamente, esse modelo já está um pouco ultrapassado. Mas existem plataformas como o n8n e tantos outros softwares que conseguem expor APIs e consumir APIs de outros sistemas. (04:36) Utilizamos isso para integrar softwares, certo? O problema é que isso é feito por uma interface muito bem documentada. É necessário descrever como se faz a chamada. Se sair um pouco da especificação, ela não funciona mais. Se mudar a versão e não atualizar, a integração quebra. (04:53) Portanto, a API é uma estrutura mais rígida. O Model Context Protocol (MCP), se eu não me engano, foi lançado pela Anthropic. É um padrão aberto que foi rapidamente adotado por todos os players do mercado, como Google e outras empresas. O que você faz com isso? O MCP é feito para expor uma API para um agente de inteligência artificial. (05:30) O detalhe é que eu consigo chamar as APIs regulares tranquilamente a partir de um agente de inteligência artificial, mas a diferença é que o MCP funciona como se fosse autodocumentado. No seu agente de IA, você configura o Claude Code ou qualquer sistema com suporte para isso. Você informa o endereço, a porta e se há autenticação. O agente se conecta ao servidor MCP e pergunta: “Quais ferramentas você tem? Qual é o seu objetivo? Para que você serve?” (06:30) A ferramenta se apresenta. O MCP diz: “Olha, eu faço leitura de relógios elétricos e consumo de eletricidade.” Ele informa quais funções possui, como “ler relógio” e “gerar valor”, fornecendo a sua própria documentação detalhando o que ele faz. O agente lê isso. (06:54) Há uma descrição literal de cada ferramenta em linguagem natural, ou seja, português, inglês ou italiano, se você quiser. O agente lê aquilo e entende para que serve a ferramenta. Enquanto você conversa com o modelo, a IA consulta as ferramentas disponíveis e decide qual delas é útil para resolver o problema apresentado. (07:22) Se você pedir para fazer a leitura do relógio de eletricidade do Guilherme, o agente verá que possui um MCP com essa função, analisará os parâmetros necessários para chamar a rota e tomará a decisão de acionar a ferramenta ou não. O Claude, por exemplo, se conecta com o Notion, que é um sistema de armazenamento de informações. (07:43) É muito legal, porque você vai salvando artigos, comentários e notícias dentro do Notion. Depois, se você for falar sobre algum tema aqui no podcast e quiser buscar o que já leu sobre isso, ele utiliza o MCP para localizar a informação e trazê-la para você. (08:03) O agente meio que raciocina e decide quando uma ferramenta pode ser útil, com base na descrição fornecida, acionando-a quando achar adequado. (08:19) O detalhe é o seguinte: parece que voltamos no tempo. Quando as APIs REST surgiram, muitas foram implementadas sem autenticação, sem cifragem e totalmente vulneráveis. O mesmo está acontecendo agora com os MCPs. (08:40) A galera começou a implementar uma série de integrações vulneráveis. A notícia informa que há trinta vulnerabilidades (CVEs) documentadas em apenas sessenta dias no protocolo MCP. (09:04) O protocolo acabará sendo corrigido e isso será tranquilo. No entanto, temos cada vez mais serviços oferecendo MCP com os mesmos erros básicos de segurança da época das APIs REST de anos atrás. Você está falando de MCPs desenvolvidos por pessoas normais ou por empresas? (09:46) O usuário comum nunca vai desenvolver um MCP; ele usará o MCP de alguém. A questão é que sistemas desenvolvidos com suporte a MCP estão crescendo. Hoje, se você buscar na internet, há MCPs para gerenciar o Docker, para gerenciar bancos de dados e para diversas outras funções. Não me refiro aos MCPs profissionais das empresas de tecnologia. (10:09) Falo sobre outras pessoas desenvolvendo essas integrações fora das grandes empresas, e é aí que os problemas estão acontecendo. Não se pode descartar que uma vulnerabilidade surja em um MCP oficial de uma Anthropic da vida. No entanto, sem dúvida, a grande maioria dos MCPs não é oficial. O uso tem aumentado porque todos querem integrar a inteligência artificial. (10:41) A ferramenta é usada para resolver diversos problemas, criar relatórios e interagir com o ambiente da empresa para planejar implantações. Esse desenvolvimento está sendo feito com frequência sem autenticação adequada e sem cifragem de dados. Os problemas relatados vão desde ataques triviais de invasão de diretórios (path traversal), que permitem acesso a outros arquivos no sistema operacional, até problemas mais graves. (11:40) Isso vai desde uma falha simples até a execução remota de código, o que é bem grave. A superfície de ataque está aumentando. Por um lado, temos a facilidade de desenvolver novos MCPs, mas, por outro, essas integrações estão sendo criadas sem o cuidado adequado com a segurança. Vou fazer uma propaganda rápida da Brown Pipe, pois nos nossos testes de invasão (12:11) já testamos vários sistemas de clientes que estão integrados com a IA há anos. Nos nossos pentests, verificamos essas questões de integração com os MCPs de terceiros. O pentest da Pipe é completo, alcançando a integração com a inteligência artificial. Costumamos dizer que é a inteligência em cima da inteligência artificial. Ao contrário do que muitos pensam, os próprios MCPs também estão sendo desenvolvidos com o auxílio da IA. (12:47) Existe o mito de que pedaços de código gerados por inteligência artificial funcionarão perfeitamente e estarão sempre seguros e à prova de falhas. É difícil pensar que a IA seria capaz de produzir um software cem por cento seguro. Uma de suas notícias tocará nisso mais adiante. Existe um ponto filosófico por trás: será que a inteligência artificial conseguirá atingir segurança total? (13:29) Acho que ainda não. Eu fiz testes de desenvolvimento de software de ponta a ponta com instruções bem definidas de segurança e testes unitários. Mesmo assim, ele gerou código com vulnerabilidades. Foi bem menos do que encontraríamos em uma situação normal, mas ainda eram falhas relevantes. Claro, quando você aponta o erro, o modelo se dá conta da falha que cometeu e entende como corrigir, justamente porque foi alimentado com essas informações. (14:24) A questão é que, quando o modelo realiza uma sequência longa e complexa de desenvolvimento, sem muita interação com o usuário, alguns erros acabam passando. Ao fazer revisões, ele encontra as falhas e ajusta, mas ainda as gera inicialmente. (14:54) Até que ponto um sistema alimentado por referências humanas falíveis conseguirá criar soluções infalíveis? Infalível é uma palavra forte, Guilherme, mas a IA tem a capacidade de processar uma quantidade de informações sobre segurança muito maior que um ser humano. Então, infalível não será, mas sairá muito melhor do que nós. Certo, e isso se conecta indiretamente com a outra notícia que trago aqui. (15:48) Essa notícia envolve o STJ, que decidiu pela invalidade de laudos produzidos por inteligência artificial em ações judiciais penais. Já viemos falando sobre o uso de IA nos tribunais. (16:29) Acredito que o uso tem sido feito de forma apressada. Vimos que o TRF-1 pagou R$ 341.000,00 em reembolsos de “auxílio IA” para que magistrados contratassem os sistemas por conta própria. Deveríamos ter uma ferramenta desenvolvida exclusivamente para o Poder Judiciário, com código aberto, transparência e acesso para as outras partes envolvidas no processo. É um princípio básico que você deve saber com quem está interagindo, como revisar e tudo mais. (17:06) O que aconteceu nas ações penais? No direito penal, as garantias processuais necessárias para condenar uma pessoa são muito maiores. (17:34) Condenar alguém à prisão é mais sério do que condenar ao pagamento de uma indenização, pois se trata de um bem jurídico precioso, que é a liberdade humana. Por isso é necessária a avaliação rigorosa dos peritos judiciais, além da possibilidade de impugnação de laudos. (17:58) Tratou-se de uma situação em que o sujeito foi acusado de injúria racial e utilizou-se um laudo produzido por ferramentas de inteligência artificial. Não tenho todas as informações além daquelas publicadas na imprensa e na própria decisão, mas se fala que foram usados o Gemini e o Perplexity. (18:34) Não importa qual ferramenta de inteligência artificial foi utilizada; a questão de fundo é a análise do áudio para identificar se o acusado proferiu a injúria racial por meio de uma palavra específica. (19:04) O laudo feito pelos peritos humanos não apontou a injúria, enquanto o laudo produzido pela inteligência artificial identificou a ofensa. A defesa do acusado argumentou que, pelo fato de o laudo gerado pela IA contrariar o trabalho humano, não ter cadeia de custódia e não apresentar uma metodologia verificável, ele deveria ser invalidado. (19:57) A defesa está correta. A questão não é se o réu é culpado ou não, mas a técnica da geração do laudo. (20:33) Se formos utilizar a inteligência artificial para produzir laudos, precisaremos de uma regulação muito forte, sobretudo em ações penais. O laudo produzido por ela pode ser fundamental para condenar ou absolver alguém. (20:55) O relator da decisão levantou dúvidas sobre a confiabilidade dos resultados da inteligência artificial de maneira geral. Concordo que seja cedo para usarmos e defendo o direito da defesa de acessar e reproduzir a metodologia aplicada. (21:18) O relator destacou que as ferramentas apresentam risco de alucinações e argumentou que a inadequação se torna evidente ao lidar com dados não textuais. Segundo ele, os LLMs foram projetados para o processamento de linguagem natural, não sendo aptos a analisar ondas sonoras. Para ele, ferramentas de inteligência artificial generativa não se qualificam como prova pericial fonética. (22:04) Concluindo, o relator fez uma confusão comum ao equiparar qualquer inteligência artificial a um LLM. De fato, o que ele disse se aplicaria a um modelo focado apenas em texto. Porém, como falamos no início deste episódio com nosso patrocinador, o Whisper utiliza um modelo especializado em reconhecer a fala, trabalhando com a conversão de voz para texto. Trata-se de um LLM muito pequeno. (22:52) Se eu precisasse realizar o trabalho dos peritos, o óbvio seria transcrever o áudio com as marcações de tempo (timestamps), identificando o momento exato em que a frase foi dita. (23:15) Em seguida, eu procuraria no texto a possível injúria racial e utilizaria a IA para varrer a transcrição buscando qualquer semelhança. Posteriormente, ouviria a gravação nos pontos exatos apontados para verificar se as palavras realmente foram ditas. (23:37) Se a varredura não encontrasse nada, eu teria que ler todo o conteúdo manualmente e escutar o áudio em última análise, pois a IA poderia ter falhado em identificar o padrão. Teria muito o que fazer, claro. O meu ponto conceitual, no qual discordo do relator, é que existem modelos específicos para realizar esse trabalho, como o Whisper e várias opções no Hugging Face. (24:37) Nesse ponto, o relator está errado. Esse é o cenário típico em que a inteligência artificial pode se comportar melhor do que o ser humano na avaliação. Não digo que a ferramenta está pronta para ser adotada de forma desenfreada agora, mas, se for, precisaremos de controle, regulação, acesso às partes e reprodutibilidade. (25:09) Conceitualmente, a inteligência artificial se sairá melhor, assim como já é capaz de reconhecer câncer em exames médicos. O problema de varrer gravações longas não é novo. Para um áudio curto, um humano escuta e pronto. Porém, quando se tem dezenas de horas de gravação, não faz sentido o ser humano ouvir tudo. (25:52) Os equipamentos de interceptação telemática, muitas vezes ligados digitalmente às centrais telefônicas das operadoras, já usam mecanismos para identificar palavras-chave há décadas. O sistema grava preventivamente e descarta o conteúdo até que uma palavra monitorada apareça. A Polícia Federal e órgãos autorizados realizam esse trabalho. (26:40) Ter que transcrever manualmente palavra por palavra de grandes gravações é um trabalho brutal hoje em dia. Muito antes do Whisper e da popularização dos LLMs em 2022, já existiam ferramentas de reconhecimento de voz. (27:18) O magistrado comete o erro ao considerar que toda IA funciona apenas como um modelo de linguagem voltado a textos. Existem especializações. Na situação descrita, a análise talvez envolvesse um áudio curto e de má qualidade. Se a defesa tentasse replicar a mesma análise utilizando o mesmo algoritmo, deveria chegar ao mesmo resultado. (28:18) Para terminar, existe a discussão conceitual sobre como a inteligência artificial prevê cenários futuros. Existem casos verificáveis, nos quais a decisão da IA não afeta a realidade que está sendo avaliada. Por exemplo, estimar o ganho de um fundo de investimento com base no histórico global; a avaliação ocorre de forma separada do mercado financeiro. (29:16) No entanto, existem casos em que o próprio resultado influencia o futuro, a chamada profecia autorrealizável. Isso se aplica a avaliações de perfis de crédito ou seleção de currículos para vagas de emprego. Você não pode verificar se a predição acertou, porque o sistema, ao rejeitar o candidato, impediu que o futuro ocorresse. (29:40) Nesse cenário jurídico específico, os resultados seriam verificáveis através de validações com outros modelos. Acredito que não deveriam ter utilizado a inteligência artificial sem maturidade legal, mas a ferramenta ajudará muito a analisar laudos de imagens e vídeos para apurar o contexto de falas. Abre-se um novo campo no Direito. (30:27) Sem dúvida nenhuma. Respira, respira. Qual é a novidade sobre o Project Glasswing e o Claude Mythos? Será uma evolução no mercado de segurança? Não sei afirmar com precisão. Temos que lembrar do vazamento do código-fonte do Claude. (31:00) Naquela ocasião, as pessoas já notaram que existia um modelo muito melhor previsto para ser lançado. Poucos dias depois, de maneira rápida, a Anthropic anunciou oficialmente a chegada da família Mythos. (31:39) Atualmente, a Anthropic disponibiliza o modelo Haiku e o Sonnet gratuitamente, além do modelo Opus na versão paga. Agora teremos o Mythos, que chamou a atenção por causa do Project Glasswing. Eles liberaram uma versão preliminar (preview) do modelo apenas para organizações e empresas vinculadas ao fornecimento de software em larga escala. (32:26) A lista inclui cerca de vinte grandes empresas, como Amazon, Apple, Cisco, CrowdStrike, Google e Microsoft, além de organizações vinculadas à manutenção de software livre, como Linux e BSD. (32:53) A razão disso, Guilherme, é que o modelo demonstrou extrema capacidade não apenas de encontrar, mas de explorar ativamente as vulnerabilidades. O usuário não precisa mais fornecer instruções técnicas específicas; basta apontar a IA para a direção desejada e ela realiza o ataque. (33:29) A empresa entendeu o grande risco de disponibilizar isso para o público geral sem dar uma vantagem às companhias de software. O Mythos chegará ao mercado em breve, não se preocupe, mas se lançassem hoje dezenas de falhas em produtos amplamente consumidos, não haveria tempo hábil para correção e os ataques causariam muitos danos. (34:26) Eles anunciaram a criação de salvaguardas de segurança para esse modelo. O público conseguirá utilizá-lo, mas as funcionalidades de cibersegurança serão limitadas para prevenir explorações maliciosas (jailbreaks). (34:43) O modelo Opus, lançado em novembro passado, já era perigoso o suficiente para exigir essas mesmas salvaguardas. Ele melhorou ainda mais ao longo do tempo e se tornou excelente na geração de relatórios de testes de invasão e evidências. A falta de proteção nas versões antigas sempre me preocupou. (35:33) Na Brown Pipe, usamos os modelos da Anthropic. Tivemos que fazer um cadastro comprovando nossa legitimidade como pentesters. Mandamos as credenciais do podcast e nossa experiência acadêmica. O processo de aprovação foi bastante fácil, mas eles já começaram a restringir e travar as análises do Opus antes desse filtro. (36:22) Conheço pessoas que tentaram a liberação e foram rejeitadas, ou ficaram semanas aguardando, provavelmente devido à falta de referências profissionais. Não sei qual o rigor adotado, mas é uma barreira válida que deveria ter sido adotada logo no início, pois a capacidade da ferramenta já era imensa. (37:15) O fato interessante é que o modelo encontrou falhas no kernel do Linux que estavam dormentes há 20 anos. Isso me lembra o caso do Heartbleed, descoberto após 13 anos de existência. Às vezes o bug é simples, mas ele se esconde debaixo de 300 camadas de código complexo. (38:16) A capacidade de reprodução de vulnerabilidades de cibersegurança do modelo Opus está na casa dos 73,8%, enquanto o Mythos preliminar subiu para 83,1%. Trata-se de um ganho técnico real em um sistema que já considero espetacular. (39:31) Como as métricas gerais de codificação e raciocínio também cresceram muito, na casa dos 93%, o ganho real de cibersegurança será brutal. Ao superar o modelo vigente, a plataforma ficará consideravelmente mais perigosa, o que justifica totalmente a implementação da trava de proteção pela Anthropic. O Opus nunca havia sido limitado dessa forma. (40:29) Várias pessoas argumentam que esse movimento da empresa é uma grande jogada de marketing para se posicionar perante modelos abertos. Ao investigar, verifiquei que o sistema localizou um buffer overflow antigo no NFS versão 4, que possui 23 anos de existência. O mito de que o software livre é perfeitamente seguro esbarra no fato de que poucas pessoas o auditam a fundo. (41:41) A forma como a IA conduziu o teste é o fator chave. É como se tivéssemos um novo telescópio observando o universo; antes as falhas estavam lá, mas não possuíamos ferramentas adequadas para identificar as ondas gravitacionais. (42:41) A IA simulou dois clientes diferentes interagindo no sistema ao mesmo tempo. Era um ataque colaborativo, cenário que dificilmente é testado por seres humanos de forma manual. (43:02) E aí, esse seria um tipo de cenário que em geral você não considera, você considera uma tentativa. Enfim, isso que eu estava lendo aqui destacou um pouco a forma como ele encontrou. Claro. Revelando possibilidades que talvez nós não conseguiríamos… se voltarmos um pouquinho no negócio da inteligência artificial sendo usada para provas no processo, daria para ir até mais além. (43:34) Talvez agora a gente consiga descobrir coisas com a inteligência artificial que o ser humano não conseguiria descobrir. Assim como está acontecendo com o código, talvez possa acontecer com outros dados da realidade, como voz, vídeo, sons e coisas do gênero. Não sei se tu concordas. Não, eu concordo plenamente. E a gente tem um processo aí, Guilherme. Uma coisa é o cara chegar, abrir a inteligência artificial e fazer uma consulta qualquer. Outra coisa é ter um ambiente preparado para usar inteligência artificial para fazer um pentest, como a gente faz. A gente tem uma série de coisas aqui que faz com que as coisas de fato funcionem e sejam úteis. (44:11) E a capacidade que ele dá de revisar as coisas, de conseguir ir mais a fundo nas funcionalidades do sistema, permite que tu consigas olhar muito mais coisas em menos tempo. Então, tu consegues fazer uma varredura mais profunda e testes mais aprofundados que não conseguirias fazer na mão porque não daria tempo. Teria que passar semanas fazendo testes numa parte de um sistema. Esse é um ganho que ele te dá. (44:51) Mas tu tens que de fato saber o que estás fazendo. Porque senão ele erra, se perde e não identifica corretamente, te dando falsos positivos. Então, de fato, ele ainda tem uma barreira. E agora tem uma barreira artificial que a própria Anthropic colocou. Ele tem uma certa barreira para dificultar ataques mais complexos. (45:25) A gente chegou a comentar aqui um artigo um tempo atrás da própria Anthropic, que eles bloquearam um grupo chinês que estava invadindo um monte de empresas por aí. Eles criaram toda uma infraestrutura de agentes e multiagentes, inclusive, para fazer esses caras se coordenarem e realizarem os ataques. (45:45) Ao mesmo tempo, a gente tem que cuidar porque não é uma coisa mágica em que tu simplesmente te logas e dizes: “Invade tal lugar” e ele vai sair invadindo. Não é assim. Eu acho que sim, ele vai facilitar muito o trabalho de quem não tem conhecimento nenhum em segurança. (46:06) Permite o uso por pessoas mal-intencionadas, como uma série de outras coisas que aconteceram no passado e facilitaram exploits públicos que o cara não precisava mais desenvolver. A minha preocupação é que me parece que o pessoal da segurança é mais aberto a usar inteligência artificial agora do que quem desenvolve. (46:28) Não sei. Claro que lá fora, no Vale do Silício, eu estava vendo inclusive um podcast no The Daily sobre o uso de inteligência artificial para desenvolver. Tem empresas que estão escrevendo 10% do código com inteligência artificial, mas são empresas bem grandes. (46:58) Para essas empresas muito grandes, 10% já é um ganho considerável. Não precisa ser 90% do código gerado por inteligência artificial. E quanto menor a empresa, maior a adoção. Eles relatam até 90% do código gerado por IA em empresas de menor porte. Em termos de segurança, a galera está usando inteligência artificial direto. Parece que no desenvolvimento tem um certo receio das empresas em adotar e gerar código com isso. (47:32) Receio de perder o controle das coisas sendo feitas. O que me preocupa um pouco é que, mesmo com esses controles da Anthropic — e lembrando que a Anthropic botou esses controles, o Codex no GPT não tem —, me preocupa se de fato os atacantes não vão ter uma vantagem inicial. (48:12) Até que tu comeces a usar IA para gerar mais testes unitários nos teus softwares, para cuidar mais da implementação de mecanismos que já foram feitos milhões de vezes da forma correta, como mecanismos de autenticação, recuperação de senha e arquitetura de autorização de sistemas. Isso já foi feito milhões de vezes, então é um padrão que a IA consegue repetir. Só que daí o cara vai lá, desenvolve na mão e faz tudo errado. Sim. (48:31) Deixa eu te trazer outras informações aqui enquanto a gente falava. Esse pessoal que diz que é uma jogada de marketing da Anthropic argumenta que outros modelos menores, como o GPT-OS20B com apenas 3.6 bilhões de parâmetros e o DeepSeek R1, também identificaram bugs no FreeBSD. (48:58) A ideia dessas pessoas que têm defendido isso é que não é a questão da inteligência artificial. A questão é que ninguém tinha virado esse canhão para certos pedaços de código por esse ângulo. A coisa já estava lá, só que ninguém tinha apontado para lá. Qual seria o custo para auditar todos os softwares do mundo? É pagável? Ele fez uma conta aqui dizendo que existiria entre 1 e 20 trilhões de linhas de código no mundo. (49:33) Entre 1 e 20 trilhões. Só o Google tem dois bilhões. Eu também vou chutar entre 1 e 20 trilhões. Isso daria entre 10 e 40 bilhões de dólares para auditar tudo isso com inteligência artificial. Então, não é um problema de dinheiro, é pagável. Se você diminui um pouquinho o orçamento de guerra dos Estados Unidos, paga isso brincando. Inclusive o próprio projeto Glasswing deu 100 milhões de dólares para as empresas para que elas pudessem usar. (50:10) O problema é tempo também. O preço que eles cobram é 25 por milhão de tokens de entrada e 125 por milhão de tokens de saída. Tem, em grande escala, valores diferentes, mas o fato é que a brincadeira seria cara. A questão seria: o mundo todo vai ficar mais seguro de uma hora para outra? (50:44) Devemos nos preocupar. As pessoas que trabalham com segurança têm um caminho bastante longo também, porque os atacantes vão estar usando inteligência artificial. Ele diz aqui: “Você demoraria 2.000 anos para cobrir a auditoria de 5 trilhões de linhas”, se não tivesse mais código novo sendo gerado. Ou seja, quanto mais IA, mais código eu vou ter. Fora todos os processos e softwares legados que, eventualmente, podem ser impossíveis de ser corrigidos. (51:23) E a própria logística de corrigir tudo isso. Basta pensar como é difícil em algumas empresas atualizar o sistema operacional. Fecha parênteses. Tem mais alguma coisa sobre essa? Não. Dessa notícia é isso. Eu te digo que estou na expectativa. A gente já está cadastrado lá, já está liberado pela Anthropic, então só estou aguardando eles liberarem o Mythos para nós também. (51:53) Acho que as coisas estão bem conectadas hoje. A gente já falou sobre esse assunto algumas vezes, numa base empírica, que é sobre IA e educação. A gente, enquanto educador, enfrenta isso diariamente. (52:12) Ontem mesmo eu estava conversando com uma aluna, e ela estava preocupada se era ético usar a inteligência artificial para fazer correção ortográfica nos textos dela e se alguém iria descobrir. Eu disse a ela: “Olha, você faz correção ortográfica no Word, então fazer correção com IA não é um grande problema”. (52:32) Ensinei-a a usar os espaços dentro do Claude. Enfim, uma conversa bem bacana e uma pessoa bem antenada para o que ela deveria usar. Cada vez mais me convenço de que não é uma questão de pedir para a IA escrever o texto para ti. Há tantas outras coisas que você pode fazer. (53:03) Eu tenho um texto aqui que estou há anos para atualizar, porque teve o Marco Civil, a LGPD e um monte de decisões. Entreguei para a IA e pedi para que ela me desse um roteiro sobre o que eu precisaria atualizar. Ela me deu um passo a passo de coisas que eu demoraria meses para fazer. (53:31) Eu ainda vou ter que atualizar manualmente, mas já sei o que preciso fazer. Estou dizendo isso porque o MIT descobriu num artigo chamado “LLM target under performance disproportionately impacts vulnerable users” que quanto menos escolarizado for o usuário, pior vai ser a resposta da inteligência artificial. (54:00) E isso a gente já tinha falado aqui. Eu me lembro da gente falando que o LLM, como modelo de linguagem, teria um desempenho pior para alguns perfis. (54:21) Esses perfis seriam justamente de pessoas que não conseguem perguntar, não sabem perguntar. Eles pegaram três modelos de ponta: GPT-4, Claude 3 Opus e LLaMA 3 8B, em conjuntos de dados sobre veracidade e factualidade científica. Simularam diferentes tipos de usuários com biografias curtas para avaliar a escolaridade, proficiência em inglês (nativo e não nativo) e o país de origem (Estados Unidos, Irã e China). (54:59) Não sei por que escolheram esses três países. Quais foram os principais achados desse estudo? Todos os modelos mostraram uma redução significativa de qualidade e precisão para os usuários com menor escolaridade. (55:27) E veja, para aqueles não falantes nativos de inglês, os efeitos são cumulativos. Se você é usuário estrangeiro e tem baixa escolaridade, a queda de desempenho é cumulativa. O Claude 3 Opus foi o mais problemático. Os dados levantados apontaram que ele se recusou a responder quase 11% das perguntas para usuários estrangeiros e de baixa escolaridade, contra apenas 3,6% do grupo de controle. (55:59) Além disso, produziu respostas condescendentes e padronizantes em 43% dos casos e recusou-se a responder certos tópicos especificamente para usuários do Irã com baixa escolaridade, como energia nuclear, saúde feminina, judaísmo, drogas e 11 de setembro. Isso estaria conectado com a ideia de aprendizado por reforço de feedback humano, que é uma das formas que esses modelos são melhorados. (56:39) Você tem pessoas avaliando respostas e dando feedback para aumentar a qualidade, o que faria com que usuários menos educados tivessem resultados piores. Por que isso é tão preocupante? Talvez a competência mais importante para utilizar a inteligência artificial seja a linguística, a qual demora muito tempo e esforço para desenvolver. É preciso ler, estudar e pensar muito. (57:19) Essa facilidade tira o esforço. Na educação, como já comentamos aqui, o caminho mais curto raramente é o mais eficaz para quem está aprendendo. É necessário percorrer o caminho árduo para aprender. (57:48) O grande problema é que a própria IA pode subdesenvolver a competência de formular boas perguntas. Fazer a pergunta correta é uma arte. Muitas vezes me surpreendo com os resultados obtidos por meio de questionamentos direcionados como se estivesse conversando com um especialista humano da área. (58:23) O que me preocupa na formação do futuro, Guilherme, é que em breve o usuário sequer precisará saber perguntar, pois a ferramenta fará essa ponte. Contudo, quando a plataforma atingir esse nível de abstração, esse profissional júnior deixará de ser necessário na área de trabalho. (59:19) Como o aprendizado humano é lento, quando ele desenvolver a habilidade e resolver a barreira de comunicação, a ferramenta fará o serviço automaticamente. (59:41) Se observarmos a área do desenvolvimento e TI, hoje ninguém precisa saber programar detalhadamente em uma linguagem específica. É exigido entender de arquitetura, estruturação e parâmetros de segurança lógicos. O desenvolvedor usará esses conceitos para pedir a funcionalidade correta de recuperação de senhas ao agente, sem tocar diretamente no código. (1:00:20) O autor do podcast mencionado cita o desaparecimento das camadas de abstração, passando da linguagem Assembly para frameworks de alto nível, até chegarmos no estágio atual de dialogar diretamente com o código fonte. (1:00:44) Hoje precisamos de perfis que compreendam a arquitetura e façam a ponte técnica com o negócio da empresa. A área de TI costumava operar de forma isolada, como “o pessoal do porão”, mas agora precisam dialogar com o usuário final e repassar a modelagem para a IA implementar. (1:01:26) Quem está hoje na faculdade de Ciência da Computação focando apenas em saber codificar está numa situação delicada. A máquina já escreve o código com precisão superior. O fundamental agora é conseguir discutir a arquitetura da aplicação. A exigência do desenvolvimento júnior será suprimida. (1:02:24) O cenário em curto prazo se apresenta desfavorável e piorará. No mesmo episódio que comentei do The Daily, menciona-se que desenvolvedores seniores aprimoram inconscientemente suas habilidades interpessoais de comunicação para explicar à inteligência artificial de maneira didática o que desejam construir. (1:03:01) Quem sabe explicar tira as melhores respostas. O jornalista que publicou a reportagem acompanha a evolução dos desenvolvedores há duas décadas no Vale do Silício e ouviu cerca de 75 profissionais sobre o uso diário de inteligência artificial nas tarefas. (1:03:57) Grandes empresas recuaram com demissões maciças e voltaram a contratar profissionais experientes de tecnologia, justamente para que estes atuem gerenciando equipes compostas de múltiplos agentes de software em processos de desenvolvimento integrado. (1:04:16) Ao delegar o trabalho mecânico à inteligência artificial, eles necessitam de gestores com enorme conhecimento estrutural para não descartar todo o capital humano capacitado da empresa. Os “trainees” e os profissionais iniciantes não conseguem gerenciar o software e, ironicamente, desempenham um trabalho mecânico com precisão inferior ao da própria plataforma. (1:04:48) Comparar esse cenário com a Revolução Industrial é interessante, mas as antigas transições duraram muito tempo. Com a inteligência artificial, desenvolvedores estão perdendo os postos de trabalho no período de meses. É algo violento que não conseguíamos imaginar concretamente dois anos atrás. (1:05:36) Esse impacto invadirá em cheio outras profissões e o maior problema será descobrir qual caminho profissional adotaremos para o futuro da humanidade, o qual se apresenta como nebuloso e extremamente competitivo em curtíssimo e médio prazo. (1:06:46) Recomendo muito esse material às pessoas, especialmente aos estudantes, para embasar o que debatemos diariamente sobre a automação do mercado. (1:07:17) Desenvolvedores qualificados superaram o gargalo da restrição temporal porque se comunicam diretamente com a máquina e atingem a perfeição de forma célere. A inteligência atua como a Pedra de Roseta decifrando todo tipo de dado obscuro. (1:08:17) Diante de toda essa revolução cognitiva e avanço computacional contínuo, a relevância futura do pensamento humano pode ser questionada e isso mexe intensamente com a estabilidade psicológica de toda a classe trabalhadora. (1:08:47) Vamos encerrar para não filosofarmos de forma infinita no assunto. Finalizo deixando como sugestão cultural o podcast “StarTalk” de Neil deGrasse Tyson, no qual entrevistaram Andy Weir, criador dos livros “Perdido em Marte” (The Martian) e do sci-fi “Project Hail Mary”, discutindo os conceitos de física aplicados na obra do escritor. (1:10:44) O cinema e o teatro merecem nossa visita presencial em uma era de tantas distrações de telas digitais. Saiam às ruas, fotografem a arquitetura, desconectem-se um pouco do cenário virtual e vivenciem o ambiente externo e material. (1:11:37) Com essa recomendação finalizamos, nos encontramos no próximo episódio do podcast Segurança Legal. Até a próxima! | — | ||||||
| 4/2/26 | ![]() #414 – ECA Digital com Paulo Rená | Neste episódio falamos sobre o recém-aprovado ECA Digital, uma legislação brasileira essencial que visa garantir a proteção de crianças e adolescentes no ambiente digital. Com a participação do especialista Paulo Rená, você irá descobrir como essa nova lei dialoga com o Marco Civil da Internet para promover uma maior segurança online. Ao longo do bate-papo conduzido por Guilherme Goulart e Vinícius Serafim, você irá aprender sobre os desafios e as soluções propostas para a aferição de idade nas plataformas digitais, garantindo que o acesso a redes sociais seja feito com responsabilidade compartilhada entre família, Estado e empresas. Além disso, o debate aprofunda questões cruciais de segurança da informação, privacidade e direito da tecnologia, explorando como evitar que a coleta excessiva de dados pessoais viole direitos fundamentais. A discussão técnica e jurídica também aborda o uso de protocolos de conhecimento zero e a importância de manter a proteção de dados segura frente aos interesses das grandes corporações. Você irá entender as intersecções entre tecnologia e sociedade, compreendendo de forma clara como as recentes normativas impactam a nossa vida e por que medidas proporcionais de regulação fortalecem a cidadania e o futuro da nossa sociedade conectada na internet. Para continuar acompanhando nossos debates, não esqueça de assinar o podcast na sua plataforma preferida. Aproveite também para seguir nossos perfis nas redes e avaliar o programa com cinco estrelas, pois o seu apoio é fundamental para mantermos este projeto independente ativo e alcançarmos mais ouvintes interessados. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. ShowNotes LEI Nº 15.211, DE 17 DE SETEMBRO DE 2025 – ECA Digital DECRETO Nº 12.880, DE 18 DE MARÇO DE 2026 – Decreto regulamentador do ECA Digital ANPD – Mecanismos confiáveis de aferição de idade – Orientações preliminares Livro – O Direito Achado na Rede: a concepção do Marco Civil da Internet no Brasil de Paulo Rená Proteger as crianças de riscos digitais é também protegê-las contra a exploração comercial Retrocesso no Senado: relatório do PL 2628/22 deixa crianças mais vulneráveis à publicidade Imagem do Episódio – La Lecture (1888) Berthe Morisot Transcrição do Episódio 00:07) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação, Direito da Tecnologia e Tecnologia e Sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá, ouvintes. (00:24) >> Sempre lembrando que, para nós, é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Então vocês já sabem: estamos lá no e-mail podcast@segurançalegal.com, YouTube, Mastodon, Bluesky, Instagram e TikTok também, né, Vinícius? Os ouvintes… a gente até acha que os nossos ouvintes eventualmente não são muito ligados no TikTok, mas tem algumas pessoas que seguem e que fazem comentários. (00:48) É interessante, né? Para bombar lá, tu vai botar umas dancinhas tuas lá no nosso TikTok. Pode ser, quem sabe na próxima edição. Temos o blog da Brownpipe lá em brownpipe.com.br. Você consegue também se inscrever no e-mail semanal e também na nossa campanha de financiamento coletivo lá no apoia.se Preparado usando Claude Sonnet 4.6na faça esses recuos. traga o texto puro para copiar e colar no site com a transcriçãoO arquivo é longo e foi truncado na leitura anterior. Vou trazer a parte que foi carregada, corrigida, em texto puro. Para processar o arquivo completo, por favor envie-o novamente ou em partes menores. Aqui está o trecho disponível: (00:07) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação, Direito da Tecnologia e Tecnologia e Sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá, ouvintes. (00:24) >> Sempre lembrando que, para nós, é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Então vocês já sabem: estamos lá no e-mail podcast@segurançalegal.com, YouTube, Mastodon, Bluesky, Instagram e TikTok também. Os ouvintes… a gente até acha que os nossos ouvintes eventualmente não são muito ligados no TikTok, mas tem algumas pessoas que seguem e que fazem comentários. (00:48) É interessante. Para bombar lá, tu vai botar umas dancinhas tuas lá no nosso TikTok. Pode ser, quem sabe na próxima edição. Temos o blog da Brownpipe lá em brownpipe.com.br. Você consegue também se inscrever no e-mail semanal e também na nossa campanha de financiamento coletivo lá no apoia.se/segurançalegal. (01:06) E a gente sempre pede que, se você puder, apoie esse projeto independente de produção de conteúdo. E hoje é um dia muito especial, porque nós estamos recebendo nosso querido amigo Paulo Renat. Som de palmas. Depois da edição vai o som de palmas. E aí, Paulo, tudo bem? Tudo ótimo, meus grandes amigos, Guilherme Goulart, Vinícius Serafim. (01:29) >> Muito bom tê-lo aqui. Para quem não conhece, o Paulo já participou em outras oportunidades. Nós temos uma longa história, no meu caso e acho que no caso do Vinícius também, de admiração pelo Paulo. Paulo é um grande cara, hoje já doutor em direito, estado e constituição pela UnB, também pesquisador no Iris. O Paulo é autor desse livro aqui que eu… Para aí, que eu vou botar tu sozinho. Deixa eu mostrar. (02:05) >> Esse livro aqui, “O Direito Achado na Rede: a concepção do Marco Civil da Internet no Brasil”. E o Paulo foi um cara que esteve muito ligado, na formação e naquele movimento — dá para se dizer, Paulo — de criação do Marco Civil. E eu acho que a tua participação, até pelas tuas últimas manifestações e também pela tua participação atual na formação do ECA Digital, vai engrandecer bastante o episódio de hoje. Como vocês já viram, a gente vai falar sobre o ECA Digital. (02:34) Eu acho que o primeiro ponto, Paulo, é explicar para o nosso ouvinte ou para a nossa ouvinte que eventualmente não saiba direito o que é o ECA Digital. E eu imagino que muitas pessoas efetivamente não saibam, não foram ler a lei ou se inteirar do que ela é. Se você puder falar um pouquinho sobre o que é o ECA Digital e basicamente por que ele é necessário e qual é o problema que ele veio resolver. (03:01) >> Guilherme, deixa eu primeiro parar de fingir costume, porque para mim é uma grande honra poder estar participando mais uma vez aqui do Segurança Legal. E dizer que eu faço registro, viu? Então eu tenho anotadinhas. Foram oito participações aqui no Segurança Legal. Primeiro, um especial sobre o Marco Civil da Internet lá em abril de 2014. (03:22) Então a gente tá fazendo aniversário agora. Foi dia 11 de abril de 2014 que foi ao ar. Olha essa… E aí depois a gente falou de… 12 anos. 12 anos. É isso. A gente falou depois de plenão, FBI versus Apple, relatório da CPI dos crimes cibernéticos, baleia azul, STF em 2017, que é o tema da minha tese de doutorado, agora que eu defendi ano passado, criptografia e direito, o número 171 e o 238, que foi o muito zoom no Zoom. (04:01) >> E teve os oito episódios do Alfa Beta Criptografia, que é um especial que, enfim, vocês foram muito acolhedores. Uma produção sobre criptografia que a gente fez na época em que eu era do Instituto Beta Internet Democracia, antes de entrar pro Iris. A gente fez oito episódios ali específicos sobre criptografia, com a ideia de uma cartilha em áudio que ficou disponível. Ficou muito legal construir esse material. (04:34) Para mim foi uma preparação para o que seria a minha tese de doutorado. Então eu preciso agradecer muito a vocês pela exigência de sistematizar o que eu precisava. Ter um espaço que me permitiu fazer essa sistematização me ajudou muito depois a poder concluir essa fase do doutorado na minha vida, que foi absolutamente um alívio imenso e abriu muitas portas também. (04:56) >> É muito bom. A gente fica honrado de saber do impacto que eventualmente têm algumas dessas coisas. É claro que o doutorado foi teu, tu teve que fazê-lo, mas a gente fica feliz de ter participado pelo menos um pouquinho nessa tua conquista. (05:16) Não, trabalho acadêmico é muito solitário. Tem muitos momentos de solidão, para o bem e para o mal, para momentos bons e para momentos ruins. E quando a gente consegue ter esse diálogo com pessoas que são igualmente interessadas no assunto, acho que é algo que ajuda bastante. Por isso têm tantos grupos de pesquisa e tal. (05:37) >> E nessas atividades coletivas, um dos temas que eu acabei encontrando foi o da criança e do adolescente. Já quando eu comecei a dar aula, quando eu comecei a lecionar, a primeira disciplina que lecionei foi Direito da Criança e do Adolescente, para substituir uma colega que saiu da faculdade onde eu ia começar a dar aula de responsabilidade civil. (06:00) E aí apareceram lá, eu falei: “Vamos, é um tema de direitos humanos muito importante”. E eu tinha tido um pouco de conhecimento quando trabalhei com o Marco Civil da Internet antes, em 2009, 2010. E era uma das questões: como é que a gente vai tratar disso no Marco Civil? Trata, não trata? E a escolha lá na época foi colocar na lei só uma remissão na parte da educação. (06:22) >> Então, desde 2014 no Brasil, é lei que a educação tem que integrar o ensino de informática — não como uma disciplina apartada, mas integrada na matemática, no português. Mais uma promessa educacional brasileira que não está sendo cumprida há bastante tempo. Mas a gente chega agora em 2025 com um passo inaugural assim, pós Marco Civil, porque o ECA Digital é a primeira lei ordinária no Brasil desde 2014 direcionada para regulamentar obrigações para a internet. (07:07) Ah, mas e a LGPD? Uma coisa importante sobre proteção de dados pessoais é entender que proteção de dados pessoais não é só na internet, nem é só digital. A gente tem um legado de dados analógicos do Brasil que sempre foram tratados de forma descuidada e que também estão sob a proteção legislativa da Lei 13.709. Muita gente não se deu conta disso ainda, mas em repartições públicas, em hospitais, em empresas, tudo isso é muito importante e precisa ser cuidado. Então é curioso: (07:45) a gente fala de prioridade absoluta quando a gente vai falar de proteção de direitos de crianças e adolescentes. É um retroplanejamento, mas é uma felicidade, uma coincidência feliz que tenha sido o primeiro passo desde esse marco como pedra fundamental do direito digital no Brasil, que foi o Marco Civil — a constituição da internet no Brasil. (08:05) >> Então agora a gente tem a primeira lei. É como se a gente tivesse um espelho da Constituição de 88 e agora chegasse no ECA, que veio depois de 1990. Então a gente vê que demorou bem mais — de 2014 até o ECA Digital. E boa parte da explicação dessa demora tem tudo a ver com o fato de que outras leis não foram aprovadas antes. Acho que isso é algo importante de ter nesse contexto: não foi por acaso que demorou, não foi só porque os (08:40) deputados não priorizaram essa pauta. A gente teve forças específicas direcionadas para evitar que novas leis fossem aprovadas no Brasil com essa pauta. Eu acho sempre importante lembrar o impacto de uma mensagem contra o PL das Fake News que foi publicada na página de busca do Google. (09:08) Na página inicial. A página inicial de busca do Google é um padrão, um pico de design gráfico para a web. Os estudiosos sabem a quantidade de elementos que existem na página de busca do Google. É minimalista, não tem publicidade — são pouquíssimos elementos, ela é limpa. E eles incluíram lá uma mensagem para o Brasil contra um projeto de lei. (09:43) Isso nunca aconteceu antes. Isso nunca aconteceu depois. Então o PL das Fake News — a Lei de Liberdade, Responsabilidade e Transparência na Internet — não foi para a frente porque as empresas de tecnologia não deixaram. E o ECA Digital conseguiu furar essa resistência, conseguiu aglutinar interesses de direita e de esquerda política, e as empresas ficaram de mãos atadas, não conseguiram construir uma mensagem social contra esse projeto de proteção de um público tão delicado. (10:21) >> E a gente sabe, Guilherme… antes de seguir, deixa eu só fazer uma pequena observação aqui. Nós estamos com dois doutores em direito falando sobre o ECA Digital aqui. Não, mas o nosso convidado é a estrela do episódio. E temos — tu também és doutor em direito, só para dizer — eu vou estar dando pitaco aqui da parte técnica. Mas só para dizer que nós temos duas pessoas extremamente qualificadas para tratar sobre o assunto sob a ótica do direito, que é (10:57) o campo de estudo original dessa questão toda. E aí entram as questões técnicas, obviamente. Só para dizer que a gente não tá falando aqui da boca para fora. Não, mas é que nos atinge no final. Nos atinge, Vinícius e Paulo, porque era isso que eu ia colocar: o direito não é algo que cai do extraterrestre que vem aqui e impõe regras. O direito acaba sendo esse influxo de interesses dos mais variados que (11:30) se cristalizam na lei. Mas o Brasil segue caminhos às vezes muito interessantes, muito curiosos, eu diria. Primeiro, se você quiser falar só um pouquinho, para a gente não desviar muito — a tua experiência no Marco Civil também foi, me parece, uma das experiências legislativas mais interessantes no mundo, do ponto de vista talvez de uma das primeiras, não sei, Paulo, dessa participação popular, que depois se refletiu um pouco (12:03) também na LGPD por meio dos debates públicos e toda aquela coisa. Mas o ECA Digital vem na esteira de um vídeo na internet feito por um influenciador, o Felca. Alguns até nomeiam a lei com o nome dele. Me parece um certo exagero, embora a lei não tenha nome. Mas “ECA Digital” é muito mais tecnicamente correto. (12:26) Mas a gente entrou num — eu não chamaria de surto, talvez não seja a melhor palavra — mas num interesse exagerado, fundamentado nesse assunto, o que parece ter motivado a aprovação do projeto de lei que já existia. Esse é um ponto que acho que você pode destacar também. É, e é importante. Voltando à história do Marco Civil da Internet, tem um vídeo que eu vou resgatar e vou mandar para vocês, de um cara fazendo um TED Talk. Chama Joel Putin, (13:02) “How to Crowdsource Your Laws”. Esse cara faz um apanhado de várias experiências normativas de tentar integrar a população nesse exercício de: com a internet, a gente vai melhorar a democracia. E ele faz uma lista — ah, o governo dos Estados Unidos está ouvindo as pessoas pelo site, mas aí tem gente que vai lá fazer bobagem. (13:39) Ah, na Islândia eles juntaram as pessoas para tentar ouvir sobre a Constituição. Mas aí o que aconteceu quando chegou no parlamento? O parlamento bloqueou o texto. Então ele fala que você tem que ter legitimidade, capacidade de lidar com as informações que chegam. O que você faz tem que ter um impacto real, não pode o legislativo matar o negócio. (14:04) Tem que ter uma estratégia e o que você está fazendo tem que alcançar as pessoas, tem que ter fama. E ele mostra que esses cinco atributos estão no projeto do Marco Civil da Internet no Brasil, que a gente conseguiu fazer uma lei ordinária ser aprovada com esses atributos, cumprindo essas características de sucesso. (14:25) >> Mas tem um fator da tramitação do Marco Civil da Internet que é absolutamente importante: o Edward Snowden. É importante entender que ninguém chama o Marco Civil da Internet de Lei Snowden. Mas sem o escândalo da NSA, o Marco Civil estaria travado sob as garras do Eduardo Cunha na Câmara dos Deputados. (14:54) Graças à denúncia do Snowden de que a Dilma estava sendo espionada, destravou a tramitação com a determinação dela de urgência constitucional para a lei tramitar. A Câmara dos Deputados ficou travada por cinco ou seis meses, foi de setembro até março. Aí, em março de 2014, foi aprovado na Câmara e em abril foi aprovado no Senado, e foi sancionado na sequência do Net Mundial. (15:22) Então, teve lá no Marco Civil a necessidade de não um vídeo, mas uma história bombástica que fizesse a coisa andar. Mas antes disso teve todo um projeto. Espelhando agora para o ECA Digital, a gente teve um projeto de lei — se eu não me engano, o 2.628 de 2022 — que já vinha com a proposta de tratar de uma proteção específica para crianças e adolescentes na internet. (16:09) 26… 28… é 26. O 238 é da IA. Isso. O 2.628 de 2022. Lá em 2022 foi proposto para essa proteção geral — dispõe sobre a proteção de crianças, adolescentes e ambientes digitais — no Senado, pelo senador Alessandro Vieira. Esse projeto chamou atenção em 2024, ou 2023 se eu não me engano, com audiências públicas, e quando teve um texto proposto pelo senador Jorge Kajuru. (16:46) O relatório do Jorge Kajuru era tão trágico quanto uma tatuagem de rosto de celebridade nas costas. Era uma coisa assim pavorosa. A intenção era muito boa, mas o resultado causava uma certa repulsa, e a sociedade civil se engajou. Aí a gente tem relatórios do Instituto Alana falando por que aquele texto deixava crianças ainda mais vulneráveis. (17:21) Aí a Coalizão Direitos na Rede se mobilizou. Desde 2023, então, acho que em dezembro de 2023 teve essa mobilização. Os especialistas continuaram em cima dessa proposta. Em 2024 ela melhorou absurdamente. O senador Alessandro Vieira, que era o propositor, voltou à carga. E em 2024 o texto foi aprovado no Senado com uma redação muito boa e chegou na Câmara, onde ficou (17:56) inerte desde o final de 2024. Tinha tentativas de movimentações, mas ele não andava. E aí a gente teve, então, o vídeo do Felca. A gente chegou em 10 de dezembro de 2024, e estava parado na Comissão de Comunicação. E aí veio o vídeo do Felca, que fez as coisas andarem. (18:26) Mas veja: ele foi uma reignição. Ele renovou o impulso de um projeto que já existia, que já tinha sido amadurecido. Inclusive, a gente foi numa reunião — a sociedade civil se reuniu com o presidente Hugo Motta — e ele, depois de muito esforço, nos recebeu e falou: “Tá bom, o que vocês querem melhorar no texto?” A gente não quer melhorar nada. (18:49) A gente quer que o texto seja aprovado do jeito que está. O texto não é nota 10, mas ele é um texto 7,5, que é muito melhor do que a gente tem hoje, que é zero com tendência negativa. As crianças estão sofrendo prejuízo, os adolescentes estão sofrendo prejuízo. A gente pode dizer que a gente está tendo uma nota menos 10 hoje em dia. E para chegar a 7,5 no plenário, tentar chegar em 8 é o que a gente precisa agora. (19:18) Com o vídeo do Felca, surgiram vários outros projetos, dezenas, para tentar tratar de vários pontos, inclusive criminais. Inclusive teve proposta de castração química de estupradores de crianças e adolescentes. E aí a gente falava: pessoal, o PL 2.628 é uma lei de responsabilização primordialmente das plataformas digitais. É para a Meta, para o Google castrarem as pessoas? Não. Então não é aqui. (19:42) >> Sim. Esse debate a gente vai fazer, mas em outro lugar. Então teve uma estratégia de criar um grupo de trabalho que ainda está funcionando para debater essa ruma de projetos sobre maior proteção de crianças e adolescentes. (20:16) Mas para a gente sair do saldo negativo, era necessária a aprovação urgente do PL 2.628. Então essa foi a contribuição do Felca, que inclusive — se a gente for ler lá a Lei 15.211 — tem um artigo que, com toda a propriedade, é possível chamar de artigo Felca. A redação não deixa nenhuma dúvida: são vedados aos provedores de aplicação de internet a monetização e o impulsionamento de conteúdos que retratem crianças e adolescentes de forma erotizada ou sexualmente sugestiva ou em contexto próprio do universo (21:02) sexual adulto. Se isso não é o conceito de adultização, eu não sei o que é. É feito para ele. Artigo 23, num capítulo sobre publicidade em meio digital. E está aqui inserido esse dispositivo. O artigo Felca é óbvio, mas a lei traz muito mais coisas, muito mais. (21:29) E é importante a gente sair desse binarismo: “gosto, não gosto do Felca”; “a lei foi feita de urgência, não foi feita de urgência”; “os congressistas não sabem nada de internet ou sabem tudo”. Não é assim. O mundo é mais complexo, a lei é mais complexa. E acho que chamar ela de “lei Felca” é tratar a lei como se ela tivesse sido criada do nada a partir do vídeo, escrita num papel apoiado nas coxas em cima da hora, entregue e aprovada. (22:02) E não foi isso. Foi trabalho de muita gente antes. E aí tem o papel do Felca — você pode não gostar do Felca, não é a questão aqui — mas na minha experiência, acho que todos nós aqui notamos isso: o vídeo dele fez com que muitas pessoas refletissem sobre como a internet se tornou o que é. (22:24) Esse eu acho que, antes da gente passar para a questão da aferição de idade — que eu acho que é o coração técnico aqui da lei — a nossa Constituição já falava sobre proteção integral das crianças e adolescentes, com a ideia de prioridade absoluta. (22:44) Aí a lei, o ECA Digital, fala sobre responsabilidade compartilhada entre família, estado e empresas, que é uma coisa que em geral se fala assim: “Ah, mas os pais não deixam os filhos”. Não me parece que é só uma questão dos pais. É também uma questão dos pais, mas não acho que pode ser somente resolvida pelos pais. Mas talvez o mérito do vídeo do Felca — e aí eu te pergunto, uma pergunta mesmo — seria ter demonstrado que o ambiente digital hoje é um ambiente extremamente perigoso para crianças. É um exagero isso? (23:14) >> Não, não é um exagero. Uma das grandes mudanças que a gente está tendo agora no debate regulatório da internet e das tecnologias digitais — eu gosto de falar da sociedade da informação — é a migração do foco do conteúdo para o funcionamento das aplicações. (23:50) Qual é a diferença? No Marco Civil a gente estava preocupado assim: “Ah, alguém posta um vídeo da Cicarelli”. O problema é o vídeo. A gente tem que ir atrás de quem foi a pessoa que publicou o vídeo. Então, a gente vai dizer que o YouTube não é responsável, desde que um juiz diga: “YouTube, esse vídeo é ilícito”. (24:10) O YouTube vai lá e remove e diz pro juiz quem foi que postou o vídeo. A gente vai atrás da pessoa e, nessa lógica, as pessoas vão parar de postar ilegalidades. O problema hoje que se percebe não é só as pessoas postarem as ilegalidades — é que as ilegalidades chegam para quem acessa a rede e chegam de forma prioritária, porque o modelo de negócio da economia da atenção privilegia aquilo que causa o isca de raiva, o rage bait, e não só o rage bait, também coisas como o proibido, o que é instigante, o que é tabu, (24:55) as coisas menos calmantes são privilegiadas na entrega pela lógica com a qual o algoritmo foi alimentado. Porque o algoritmo poderia ser feito para distribuir conteúdos que, depois de 10 minutos, fizessem a pessoa parar de usar a internet. Poderia ter esse comando para o algoritmo. Mas o comando é: “Faça com que as pessoas usem esse sistema de um jeito que elas não parem de usar esse sistema”. (25:25) Aí vem a lógica do cassino. E isso é perigoso para a gente, é perigoso para pessoas adultas, mas a gente tem condições neurológicas, psicológicas, fisiológicas mesmo, de entender: “Nossa, estou com sede, talvez eu precise parar para beber água. Estou com fome, preciso parar para comer. Tenho que sair para trabalhar, tenho que interagir com a minha família, tenho que fazer alguma coisa para me divertir fora do computador”. (25:55) Crianças e adolescentes não têm o lobo pré-frontal completamente desenvolvido. Elas ainda não tiveram experiências sociais, ainda não têm responsabilidade familiar para que sejam demandadas a sair da lógica do cassino das redes sociais, para entender que um desafio de comer canela, de cheirar desodorante, enfim, põe a vida delas em risco. (26:23) Não é só uma construção de capital social — é uma atividade perigosa. Ela não tem noção do risco ao qual está se submetendo. E aí os pais, gente, ninguém tem condição de saber o que as outras pessoas estão fazendo online, até porque a gente não sabe o que a gente mesmo está fazendo online. Eu faço uma pergunta bem simples: quantas horas por dia você usou o Instagram na última semana, no último mês? (27:00) Imagina que um juiz te interpela. Quantas horas por dia você usou o Telegram, o Instagram ou o WhatsApp no último mês? Você não sabe — o seu celular sabe. E essa informação que está no seu celular pode ser explorada pelo Instagram, pelo concorrente do Instagram, pelo seu aparelho celular, pelo seu sistema operacional, porque isso é um dado que pode ser vendido e explorado economicamente. (27:34) Quem vai concorrer com o Instagram quer saber o perfil de pessoas que pode extrair dessa audiência e concorrer. O ponto é que, para crianças e adolescentes, isso as coloca num cenário em que o que é preconizado é a atenção — não é a proteção integral dos direitos da criança e do adolescente, o direito de desenvolver plenamente sua personalidade. Dos 12 aos 18 anos é um maremoto de hormônios, um caos de mudanças pelo qual a gente passa. E se isso está (28:12) exposto… A gente viveu isso quando estava no segundo grau. Você tinha um problema na escola — qualquer que fosse, podia ser a paixonite, o seu crush. É. Hoje os jovens falam crush. Provavelmente já seja cringe falar crush, mas uma jovem sente uma atração por outra jovem… (28:40) Isso é um problema para ela na escola. Ela chega em casa, escreve no diário, faz um desenho, escreve um poema. Mas em casa está longe do problema. Vai chegar na escola, vai ser zoada. “Fulana gosta de fulana.” Chegou em casa, acabou o problema — ele só volta a acontecer amanhã. Hoje não tem isso. A superfície digital — que eu até chamo de hiperfície — ela intensifica os nossos contatos de um jeito que o bullying da escola funciona 24 horas e pode ser muito mais cruel. (29:15) Então a família tem ferramental limitado para proteger as suas crianças e adolescentes. Tem responsabilidade? Tem. Mas desde a Constituição Federal e também no ECA, essa responsabilidade é compartilhada: é responsabilidade da família, do Estado e da sociedade. Proteger integralmente, com prioridade absoluta, os direitos das crianças e adolescentes, deixando-as livres de qualquer violência, de qualquer violação dos seus direitos. (29:47) Então o que essa lei está fazendo agora é instando quem oferece serviços e produtos de tecnologia digital de informação e comunicação a assumir o seu papel de responsável pelas crianças e adolescentes. Aquela frase que ficou famosa com o livro da Hillary Clinton — que supostamente é um provérbio africano —: “Precisa de uma vila inteira para criar uma criança”. A família sozinha… (30:17) Nunca foi assim. No âmbito rural, nenhuma família criava seus filhos isolada. Os filhos brincavam uns com os outros. Os mais velhos de uma família cuidavam dos mais novos da outra. As mães se ajudavam, os pais se ajudavam. A gente perdeu isso de alguma forma com a urbanização. Mas a ideia aqui é valorizar a integração comunitária, não só a família, também a família. (30:41) Não é tirar a responsabilidade da família, mas cobrar que os outros também cumpram o seu papel. E também, você falou sobre o bullying. O bullying é um dos problemas, entre dezenas ou centenas de problemas que podem existir aí. E aí a gente ainda tem uma outra questão que me interessa bastante no ECA Digital, que é a ideia do desenvolvimento progressivo da criança, a autonomia progressiva. Autonomia progressiva, respeito à autonomia e desenvolvimento progressivo, que é aquela história de que você (31:17) não é criança e agora você é adulto. Você vai num processo de transição. E veja também: você não vai proibir crianças e adolescentes de usarem a internet, porque eles vão usar, vão precisar usar, vão precisar aprender a usar inclusive. É um pressuposto de educação que eles aprendam a usar também. (31:35) Então, acho que passa por tornar esse ambiente seguro. O tema é fascinante. Lembrei aquele livro do Philippe Ariès, “História Social da Criança e da Família” — que é relativamente recente também, em termos históricos, essa nossa preocupação de tornar o mundo um lugar positivo para as crianças. (31:57) Mas vamos pular, que a gente tem bastante coisa para falar. A gente precisa falar sobre talvez uma das questões que mais demandaram atenção e preocupação. E eu acho que é uma preocupação legítima — talvez seja meio Poliana da minha parte, mas eu gosto de acreditar nisso. Os mecanismos de aferição de idade, ou seja, a gente vai ter que começar a verificar de fato (32:30) a idade das pessoas para o acesso em alguns ambientes. Parece-me que, se isso for mal conduzido, podemos ter problemas graves de proteção de dados e de privacidade. Só que a questão da aferição de idade foi pensada. Não me parece que o Brasil entrou correndo nessa história. (32:57) Então você tem coisas interessantes ali na lei sobre isso. Logo depois da lei, tivemos também o Decreto 12.880, de 18 de março, que também fala sobre algumas questões relacionadas à aferição de idade. Como é que você vê isso? Você acha que esse assunto está maduro? Tem a relação com lojas de aplicativos, mas também com os próprios sistemas operacionais. Você acha que é possível aferir idade de forma segura, visando a (33:37) proteção das crianças e ao mesmo tempo a proteção da privacidade e dos dados das outras pessoas que eventualmente vão ter que se identificar nos mais variados ambientes — ambientes nos quais, de maneiras legítimas, podem não querer se identificar? A gente sempre pensa: “Ah, sua gente vai lá consumir pornografia e vai ter que se identificar”, que não é nenhuma atividade ilegal. (34:00) Como é que você vê esse grande problema? Não sei se tem uma resposta, Paulo, mas acho que você tem escrito inclusive nos últimos dias e se envolvido bastante nesse debate. A resposta simples é: sim. É possível fazer a aferição de idade de forma segura e com respeito à privacidade e à proteção de dados pessoais. A questão é o como. (34:25) E aí, primeiro, acho importante a gente reforçar essa legitimidade das pessoas de fato quererem proteger os seus dados pessoais, quererem proteger a sua intimidade, quererem proteger a sua liberdade de expressão que abarca o acesso à informação: que livros estou lendo, que sites estou visitando, com quem estou conversando, que horas, sobre quais assuntos. (34:53) Isso pode ser muito relevante para alguém que vai denunciar irregularidades. Pode ser muito importante para trabalhadores que estão organizando um movimento. Pode ser muito importante para familiares que estão organizando uma surpresa para outro familiar. Pode ser muito importante para quem está comprando remédio contra uma doença ou para quem está se preparando para uma gestação e quer garantir o sigilo dessa informação, que é absolutamente de caráter privado. (35:20) Essa é uma proteção legítima. O ponto é — e aqui eu me valho muito do que aprendi com a Iolanda Córdova, que é uma referência máxima quando a gente está falando em questões de segurança e de identificação — que aferir a idade não exige revelar a identidade. A lógica aqui é a seguinte: (35:49) vou usar um exemplo de novo. Imagine — ou lembre-se — Guilherme, Vinícius, quando a gente ia às baladas, anos 90, anos 2000. Para entrar na balada, você dava a sua carteira de identidade ou a sua carteira de motorista ou a sua OAB, que vem com todos os dados. Veja que você está entregando muito mais dados do que são necessários para a balada saber se você é maior de idade ou não. (36:26) É um documento oficial, reconhecido. Mas ele tem seu nome completo, nome do seu pai, nome da sua mãe, seu número de RG, seu número de CPF, seu número da carteira de motorista. Quando você tirou a carteira de motorista? Que tipo de carro você sabe dirigir? Desnecessários. Não seria mágico se a gente tivesse uma moeda, um chaveiro recebido de um órgão confiável — uma moeda que tivesse de um lado um selo “maior de 15”, “maior de 16”, “maior de 18”? (37:02) E do outro lado um selo da República, um brasão que dissesse: “Se essa pessoa quiser entrar num lugar de mais de 18, ela pode”. E aí o segurança não precisa saber quem você é, não precisa saber de nada — apenas aferir se você pode entrar naquele lugar. (37:20) Você mostra a moeda, você entra. E acabou. Até porque, em ambientes físicos, esses atributos de aparência são verificáveis. Você olha para uma criança e sabe que aquele ser é físicos, esse O ponto é que você tem pessoas físicos, essee aparentam ser mais novas (37:40) e pessoas mais novas que parecem físicos, esseas, ou alguém que está ali na f físicos, essebou de fazer 18. E físicos, esseituações limí físicos, essete usa documento para todo mundo físicos, esseje, chegando a gen físicos, esse provavelmente ningu físicos, esseumento. Era até lisonjeiro físicos, esses mais velhas. físicos, esseada e o cara ped físicos, esse físicos, esse Vinícius lá… Não, só ia co físicos, essee já tem na pauta organizada aqui um próximo físicos, essee a gente vai falar mais tecnicam físicos, esseo. E eu até br físicos, essea mágico, seria criptográf físicos, essematemático. Porque a gente tem físicos, essebem estabelecidos físicos, essetamente isso: você ter uma identidade digital e poder apresentar p físicos, esse uma terceira p físicos, esse o gov físicos, essea identidade, você pode apre físicos, esseedaço dela, um atributo físicos, essente para uma terceira parte, e ela con físicos, esser que aquilo é real, que aquilo é físicos, esse38:56) E também temos protocolos que físicos, esseapresentar derivações verificáveis, que é físicos, esseue você colocou. Eu não tenho que físicos, essea de nascimento — eu só digo “eu físicos, esse físicos, esseomo apresentar isso. O imposto de renda agora, que físicos, essecessado e já abr físicos, essefísicos, esseçar a preencher a declaração, você físicos, esselidade de clicar em “ac físicos, esse.BR”. (39:26) Quando você acessa com o GOV.BR, físicos, esseha, para você entrar no sit físicos, esseeu vou passar esse, esse, ess físicos, esseudo bem?” É aque físicos, essedo mundo só clica em físicos, esseMas se a gente físicos, essetenção: para acessar o app do Detran, para acessar o físicos, esseS, para acess físicos, essecativos, para fazer assinatur físicos, essela: “Olha, você quer acessar esse serviço físicos, essehave? Beleza, eu vou revelar para físicos, esse físicos, essetudo bem?” E aí a gente dá OK, sem muita criticidade. Ma físicos, esseuncionamento essa ideia de um terceiro info físicos, esserviço que quero acessa físicos, esse precisam. E aí n físicos, esseeitos na Rede — que físicos, esseã físicos, esseis faz parte, junto com dezenas de outras org físicos, esse outubro do ano passado, a gente fez uma no físicos, essere a implementação da aferição de idade a partir do ECA Digi físicos, esseprovado em sete físicos, esse E o que a gente defendeu foi que a proteção d físicos, essedolescentes na internet não tem que comprometer a privacidade e a p físicos, esseos das pessoas — muito pelo contr físicos, essesenão a gente vai estar violando físicos, esseróprias crianças e adolescentes. Então a aferição de idade físicos, esseificar identif físicos, esse (40:53) Se para entrar num site maior de 18, físicos, essem remédio, para acessar pornografia, para acessar informações sigilosas, sofisticadas, você pr físicos, esseuem eu sou, isso vai contra a lógic físicos, esse O sistema tem que v físicos, esseributo da faixa etária, não a identidade nom físicos, esse dados que possa físicos, essee permitir essa des físicos, essefísicos, esse que eu acho que acaba acontecendo, Paulo? A gent físicos, esseo alguns exemplos do físicos, esseria facial, que é uma f físicos, essede estimar a idade. Você vê a pe físicos, essee ela tem tal idade — deixa pa físicos, esseixa. Aí a mole físicos, esseba. É, m físicos, esseo só para tentar ver físicos, esse, mas para identificação. Então ta físicos, essetecer de tentar usa físicos, essera físicos, esse Agora, antes que o pessoal sa físicos, esseeu Deu físicos, essevou poder acessar o site sem me ident físicos, esseom que se diga que, matematicamente, físicos, essecamente ta físicos, esseende da matemática diretamente, cuja essência é matemática — a gente tem ta físicos, esse, os protocolos de conhecimento zero físicos, esse co físicos, esseo. (42:25) É, esse protocolo permite justam físicos, esse o Guilherme emita uma identidade para mim, eu me apre físicos, essefísicos, esseendo “Paulo, eu tenho mais de 18”. O Paulo não sabe quem eu sou. O Guilherme não sabe que eu estou apre físicos, esse identidade para o Paulo. O Guilherme não sabe o que eu est físicos, esse(42:47) E o Paulo não sabe quem eu s físicos, essebe que eu tenho mais de 18. É físicos, esseistemas, aproveitando físicos, esse, estão se valendo d físicos, esseinformacional para coletar mais dados a físicos, essem físicos, esseExato. Isso é um problema. Biometria facial, com físicos, essede RG, CNH, ca físicos, esseo, análise de e-mail — tudo isso promove vigilânci físicos, esse43:15) Tudo isso são métodos que a ge físicos, esse físicos, esseNão”. A solução tecnológica p físicos, esseconcepção do ECA Digital é o modelo ZKP — a prova de conhecimento zero. É uma certificação criptografada, um token. Falei d físicos, essejoga Pokémon GO tem o tokenz físicos, essetazô da nossa é físicos, essea maior, que é um ob físicos, esse físicos, esseacessar. No caso o Vinícius, ele prova para mim que físicos, esse físicos, esseó sei que ele tem mai físicos, esse18. Eu não sei se ele tem 20 ou se ele tem 60. Ele prova que físicos, esse8 sem que eu saiba quem é o Viníc físicos, esse, esse sistema tem que ser baseado em soft físicos, esse aber físicos, esse — tem que ser — porque senão o Viní físicos, essendente da vontade do Guilherme que está conferindo para ele esse t físicos, esse E a gente não quer mais dependência físicos, esseesmo que seja o GOV.BR, porque físicos, essepoder público. Hoje quem est físicos, esselico é um dirigente, amanhã é outro. E pode ser pior do q físicos, essegina. Então físicos, esse não diz “o GOV.BR físicos, esseque todas as pessoas de forma cript físicos, esse4:45) Não. O ECA Digital fala que físicos, esseesse jeito, que tem que ter físicos, essera. O GOV.BR é uma solução físicos, essea arquitetura tem que ser descentralizada físicos, esse podem ficar com um únic físicos, esseu físicos, esseilherme, o que iam fa físicos, esser o Guilherme. Iam atacar o Guilherme economicamente, iam físicos, esseo. (45:29) Vamos oferecer pro Guilherme um dinheiro que ele vai lavar a consciência dele nas águas do Caribe, meu amigo, e nunca mais vai mexer com nada disso. Então, descentralizar é medida de segurança para prevenir abuso de poder econômico e político. E a gente tem que focar em plataformas de risco, não em sistemas operacionais de dispositivos simples. (45:51) Não é impressora, não é roteador. E aí eu falo do sistema operacional e das lojas de aplicativos. A violação de direitos de crianças e adolescentes não acontece na loja, não acontece no sistema. Só deixa com relação ao ponto que tu colocou antes, de que tem que ser aberto: (46:13) a gente já tem um caminho. A gente já tem draft no IETF, já tem draft de RFC e tal para tratar sobre credenciais verificáveis. Então a gente já tem um caminho bem interessante e, se adotarmos uma coisa completamente diferente, a gente vai ter um problema de compatibilidade com sites de outros países. Tem que ser interoperável, obviamente. (46:33) Tem que ser interoperável. Fecho o meu parênteses, pode seguir. Desculpa te interromper. Não, você estava falando sobre ir no caminho da loja e dos sistemas operacionais, né? Isso, porque assim: a violação dos direitos das crianças e adolescentes não está acontecendo na loja de aplicativos, está acontecendo no aplicativo que está sendo vendido na loja. (46:52) É óbvio, isso é inegável. A violação não acontece no Ubuntu, no Debian, no Windows, no iOS. Mas aí a gente tem um lugar privilegiado para elevar a proteção das crianças e adolescentes. Volto ao argumento anterior: que a lei imponha a essas empresas que exerçam o seu papel de proteção. (47:20) Eles são parceiros, eles não são o alvo da legislação. E eles são parceiros na medida em que valer a pena essa parceria. Então vamos imaginar uma ponte privada, uma ponte que está sob pedágio, sob concessão para uma empresa privada, e aí a polícia quer pegar bandidos. A polícia pode fazer um cerco na ponte. (47:43) “Ah, não, mas aí as pessoas vão evitar o meu caminho, vou receber menos dinheiro do pedágio, eles vão fazer outro caminho”. A ideia aqui, para você da concessão do pedágio, é colaborar com a segurança pública. Não é você que está cometendo crime, não é você o alvo para prender o dono da concessão ou o presidente da empresa. (48:08) Não, não é essa a finalidade. A finalidade é usar esse espaço privilegiado para apoiar e viabilizar as medidas de proteção. E aí isso não vai ser feito em toda e qualquer ponte, de todas as estradas do Brasil; vão ser em grandes pontes, as mais movimentadas. Então vão ser os sistemas operacionais com mais usuários, vão ser as principais lojas de aplicativos. Por exemplo prático e real: uma juíza, semana retrasada — salvo engano, não foi semana passada — exigiu que a Meta (48:51) exigisse das contas com mais de 29 mil seguidores que tivessem alvará judicial para monetizar conteúdo produzido com a participação de criança e adolescente. Por quê? Porque isso é trabalho infantil. Isso não é novidade. Trabalho infantil, desde o ECA em 1990, precisa de decisão judicial autorizando, porque aí os pais vão dizer: “Olha, ele vai continuar estudando tal e tal hora; o trabalho tem esse risco, a gente vai mitigar esse risco assim e assado; ele vai ter esse apoio (49:29) e ele vai ganhar dinheiro suficiente para viabilizar esse apoio, e os direitos dele estão garantidos”. Aí o juiz olha aquilo e fala: “Beleza, isso tá OK, isso aqui precisa melhorar”. O juiz acompanha. A decisão foi para perfis com mais de 29.000 seguidores. (49:54) O problema aqui não é 29.000, podia ser 20, podia ser 30 — o critério é pegar pessoas com relevância. A preocupação vai ser com programas de computador de relevância. “Ah, mas eu posso fazer a minha própria distro?” Pode. E aí se você estiver cometendo uma ilegalidade, você está cometendo uma ilegalidade igual a alguém que vai num pequeno supermercado aqui e furta alguma coisa. (50:21) E nem por isso a gente vai deixar de dizer que furto é crime, ou que roubo é crime, ou que agressão é crime. Não é porque pequenos delitos podem ser cometidos que a lei deixa de estar valendo e de ser importante. A gente vai para uma questão de capacidade de fiscalização. Tem toda uma questão de como a Autoridade Nacional de Proteção de Dados (ANPD) vai funcionar agora: ela está ganhando novos servidores públicos, uma nova estrutura interna que não tinha para dar conta dessa nova atribuição. (50:51) Ela não exercia muito bem ainda a sua atribuição de proteção de dados pessoais, ganhou uma nova atribuição com o ECA e talvez ganhe mais atribuições na esteira da decisão do Supremo do ano passado sobre o artigo 19. Mas em resumo, o que a Coalizão Direitos na Rede defende? Que modelos de prova de conhecimento zero convivam em soluções públicas e auditáveis com soluções privadas e auditáveis. E mais: que haja comitês consultivos e consultas públicas para fortalecer a atuação da ANPD e garantir que muitos olhos, com (51:27) participação da sociedade civil, melhorem esse modelo sempre. O que a gente não quer? Atrelar idade à identidade, reconhecimento facial e concentração de dados em grandes empresas. Então, a partir desse alerta condizente com o ECA Digital, a gente está em diálogo com o governo federal, acompanhou a elaboração do decreto e vem muito mais coisa por aí. (51:56) Estamos começando a conviver com o ECA Digital. O receio faz sentido. O que não faz sentido é entrar em pânico. Claro, claro. Não entre em pânico. E também passeando aqui pela lei, lembrei disso porque li um dos artigos que você escreveu. O Paulo já escreveu três artigos de opinião lá no TecMundo. (52:19) Vai ficar no show notes. Um saiu essa semana agora, os outros dois eram um pouco mais antigos. E uma das coisas que eu acho que é interessante falar também: lá no artigo 12, sobre os mecanismos de aferição de idade, fala-se em tomar “medidas proporcionais”. Algumas pessoas que não são do mundo do direito — o que é totalmente compreensível — perguntam: “Mas o que é proporcionais? Isso pode ser qualquer coisa?”. Ou leem a palavra proporcional e passam por cima, (52:52) né? A gente sempre fala isso em aula, né, Paulo? Aquela ideia de que não existe palavra inútil na lei. Se você está lendo uma palavra na lei, ela está ali. Claro que o nosso legislador pode errar, mas as palavras são importantes. O nosso bisturi são as palavras. (53:14) E aí no direito a gente está acostumado a fazer isso. Historicamente, desde o direito romano, a gente vem lidando com interpretação jurídica. Mais modernamente, interpretação de textos legais. Mais contemporaneamente, a gente tem essa ideia de virada linguística e filosofia da linguagem para colocar dentro dos ordenamentos. (53:38) Estou fazendo todo esse introito só para falar um negócio mais simples: as leis de maneira geral contêm cláusulas abertas que dão maior mobilidade para o sistema e para o ordenamento jurídico. Ou seja, a gente já passou daquela ideia antiga do século XIX, início do século XX, de que os códigos e as leis seriam uma totalidade imutável, e que bastaria eu encontrar o fato ali, colocar na lei e tirar a regra. (54:14) A gente viu que o mundo é muito mais complexo do que o legislador consegue prever. E ainda mais quando a gente começa a falar sobre questões tão complexas como essa — criptografia, aferição de idade, internet, proteção de criança — faz bastante sentido deixar essas cláusulas abertas que permitem avaliações mais valorativas. Então, por que isso tudo? Para entrar na questão: “O Linux será proibido no (54:49) Brasil a partir de agora?”. Quando a gente olha para a palavra “proporcionais”, Paulo, acho que tem um campo bem importante ali que não proíbe o Linux e nem teria como proibir o Linux no Brasil. (55:13) Me parece uma ideia um pouco precipitada, mas a preocupação é legítima. Eu não afasto a legitimidade das pessoas se preocuparem. “Se efetivamente vão proibir meu sistema operacional que eu tanto amo e uso, eu vou ficar preocupado mesmo”. (55:34) E assim, é óbvio que a gente sabe que eventualmente o agente público faz bobagem. Um juiz pode dar uma decisão ruim, a gente sabe que administradores podem desenvolver políticas públicas de forma ruim. A gente não está ignorando isso, mas a lei traz balizas. (56:16) E é assim que funciona o estado de direito. A lei vai trazer essas balizas para que essas medidas equivocadas tenham menos chance de acontecer. Para reduzir a expectativa cognitiva, a gente tem as expectativas normativas: a gente põe na lei o que é certo e o que é errado para diminuir a chance de acontecer o que a gente entende que é errado. Então na lei e no decreto há previsões, e a ANPD vai estabelecer mais regras nesse sentido de que haja efetivamente uma proporcionalidade, não só por parte dos atores privados, mas também por parte do poder público na fiscalização. (56:52) Então o Guilherme falou do artigo 12, que os provedores de lojas de aplicações e sistemas operacionais deverão adotar medidas… E você tem essa previsão de atuação proporcional no artigo 24, que os provedores de redes sociais deverão adotar medidas adequadas e proporcionais para informar, etc. (57:21) E lá no artigo 33, fala-se que as medidas sancionatórias devem se mostrar adequadas, proporcionais e necessárias à gravidade da conduta. Aí você vai ter suspensão da conta, cancelamento, comunicação. (57:50) A lei fala de tratamento diferenciado e proporcional. E no artigo 35, para fixar a gradação da sanção, tem que ser observada a proporcionalidade e razoabilidade: gravidade da infração, reincidência, capacidade econômica do infrator, finalidade social do fornecedor. (58:16) Como assim finalidade social? Vamos imaginar hoje. Eu odeio o Microsoft Teams. Mas se hoje o Microsoft Teams estivesse violando direitos humanos fundamentais — e eu acho que está — não dá para proibir o Microsoft Teams no Brasil, porque ele cumpre uma função social. (58:44) O poder público em larguíssima escala depende do Microsoft Teams para existir hoje. Então não dá para proibir. O que a gente tem que fazer? Pode multar, pode exigir um plano de ação de como ela vai melhorar. (59:11) Estou brincando que está violando direitos, pela dificuldade prática de usar, mas vamos imaginar seriamente que uma distribuição grande de software livre não consiga, de fato, implementar um controle parental suficiente ou uma aferição de idade adequada. Nesse caso, não vai ter bloqueio da distribuição, porque senão isso vai bloquear o funcionamento de empresas públicas, pesquisadores e universidades que usam essa distribuição. (59:48) Então isso está na lei, na aplicação das sanções: a finalidade social do fornecedor e o impacto sobre a coletividade são circunstâncias — além da proporcionalidade e da razoabilidade — que têm que ser observadas para fixar a gradação da sanção. (1:00:13) Artigo 35, parágrafo 1º, inciso 4 da Lei 15.211. Está lá. Se vai ser bem ou mal aplicado, às vezes vai ser mal aplicado. Aí a gente tem recurso. O juiz decide mal, a gente recorre para o Tribunal de Justiça, para o STJ ou STF. (1:00:33) E assim é o direito, não foi feito de qualquer jeito. Tem uma preocupação sincera. E aí qual eu acho que é o papel agora da comunidade tecnológica? Instar a buscar o seu assento no Conselho Nacional de Proteção de Dados Pessoais e Privacidade, para dialogar com a ANPD para que seja levado em conta o ecossistema de software livre e de código aberto no Brasil. A comunidade tem que participar. Não é só (1:01:14) ficar na manchete do “homem velho esbraveja com a nuvem”. Tem espaço para participar, até de casa. Vocês podem mobilizar todo mundo online, eleger um representante, e esse representante vai lá e faz o papel. (1:01:34) A democracia não é um jeito único de funcionar, mas o ponto é: tem que exercer a cidadania e fazer essa voz chegar. Eu sou uma das pessoas que está tentando fazer essa voz chegar com razoabilidade. Sérgio Amadeu é muito vocal nesse diálogo, Alexandre Oliva, e vários outros expoentes. (1:02:02) Temos uma série de desenvolvedoras mulheres nessa disputa. Temos a comunidade trans preocupada com software livre, porque sabem que, se depender de reconhecimento facial de sistema proprietário, nunca vão ser reconhecidas devidamente pelas câmeras. (1:02:26) E eu acredito que a melhor solução para aferição de idade depende de software livre. E o desafio todo vai ser lutar contra os interesses de empresas que começam a se estabelecer para vender mecanismos em plataformas fechadas, monetizando, o que iria contra todo esse ecossistema que está sendo construído: (1:03:06) por exemplo, você não deve guardar ou armazenar os dados frutos dessas aferições de idade. A ANPD lançou há pouco tempo um documento de orientações preliminares sobre mecanismos confiáveis de aferição de idade. (1:03:29) É um documento mais técnico, que traz um conjunto de requisitos: proporcionalidade, acurácia, robustez, confiabilidade, privacidade e proteção de dados, inclusão e não discriminação, transparência, auditabilidade e interoperabilidade. (1:03:51) Então as coisas já estão acontecendo. Já não estamos mais falando só sobre o ECA Digital, mas sobre o decreto regulamentador e o papel da ANPD. E, no final das contas, é bom que tenha esse tipo de discussão mesmo. (1:04:09) É bom que as pessoas estejam colocando seus argumentos e eventualmente mudando de ideia. A gente está fazendo debates importantes, quando construtivos, porque a gente já viu movimentações bem destrutivas, tóxicas e com ódio na internet. (1:04:38) Aquela coisa que foge da questão técnica. Quando tu discutes uma ideia, tu podes dizer que a ideia é horrorosa, eu não preciso dizer que tu és horroroso ou muito ruim. Mas tu não és, tá, Guilherme? Bem claro. Não achei que fosse. Mas talvez ele ache… (1:05:08) >> Será que eu fiz alguma coisa? A gente pode tranquilamente discutir isso. E tem a necessidade de ser software livre, como o próprio Paulo colocou. (1:05:34) Nós vamos ter grandes discussões: vamos adotar um software livre? Vamos adotar a solução de alguma empresa? O GOV.BR vai avançar para um protocolo de Zero Knowledge? A gente tem várias possibilidades. Todos os caminhos têm suas vantagens e desvantagens. (1:06:10) Em algum momento vamos ter que dizer: “A saída melhor é essa aqui porque, no geral, a sociedade ganha”. É uma necessidade ter essa discussão técnica. Em episódios anteriores, (1:06:28) o Guilherme deu uma respirada agora para falar… Em episódios anteriores a gente estava discutindo justamente essa questão da identificação de idade. A gente trouxe uma notícia de que no Reino Unido estavam implementando uma verificação de idade para acessar sites, o que já gerou discussão. (1:07:05) E a gente colocou: vai ser um problema se alguém emitir identidade e esse terceiro puder saber todos os sites em que eu entro. Esse tipo de coisa já vem sendo discutido não só aqui no Brasil. Na Inglaterra a demanda veio antes daqui, não são coisas alienígenas. (1:07:39) >> Tem um documento sobre aferição de idade da Austrália que começou a circular aqui no Brasil ano passado, muito completo. O que a ANPD fez? Foi no mesmo caminho. (1:08:00) Primeiro publicou um documento amplo sobre as possibilidades, depois fez uma consulta perguntando o que levar em conta, e agora publicou as orientações preliminares. A gente não está regulando no escuro, não estamos ignorando o que está sendo debatido lá fora. (1:08:37) O ECA Digital se aproveita das experiências anteriores para dar um passo adiante no bom caminho. A Austrália proibiu que crianças e adolescentes usem redes sociais até 16 anos. (1:09:04) O que o Brasil fez? Redes sociais: decidam. Quer ser frequentada por crianças e adolescentes? Tem que cumprir essa lista de obrigações e garantir que a rede seja adequada. Não quer ter esse problema? Então tem a obrigação de garantir que não usem sua rede social. (1:09:28) Não é proibido, é permitido, mas a rede tem que se compromissar. Qual é o seu modelo de negócio? A abordagem do Brasil é mais complexa e mais adequada. (1:09:51) E aí parece que a discussão é legítima, mas às vezes algumas pessoas não estão preocupadas com as crianças em primeiro lugar. (1:10:20) Algumas discussões não levam em consideração que você está tentando proteger crianças num ambiente muito hostil. E às vezes não estão preocupadas nem com privacidade — estão preocupadas em como a vida pode ficar um pouquinho menos confortável, colocando o conforto acima do dever da sociedade. (1:10:54) É dever de todos nós integrarmos a criança e ensiná-la a se comportar. Porque crianças também são pessoas, sujeitos de direitos e muito mais vulneráveis do que a gente. (1:11:29) Se para a gente já é difícil transitar com toda a experiência, imagina para uma criança em formação. Parece que a proteção da criança ficou lá para trás. (1:12:00) E tem ladeiras escorregadias. Temos que ter a preocupação de não aumentar o monitoramento que já existe, mas também não podemos entrar na vibe de: “O Google e a Meta já me rastreiam, então azar, deixa saber onde eu vou e o que acesso”. (1:12:55) Há uma preocupação legítima com a privacidade. Uma solução mal implementada vai avacalhar a privacidade mais ainda do que já está. E não temos que aceitar isso. Soluções tecnicamente mal desenhadas, com protocolos proprietários fechados, (1:13:34) que você tem que pagar para implementar, têm chance de causar problemas de incompatibilidade e integração com outras APIs. (1:13:58) Temos problemas reais a serem tratados, mas são tratáveis com uma boa discussão técnica, tanto jurídica quanto computacional. (1:14:20) Se a gente começar uma discussão que ignora esses termos ou faz uma seleção seletiva, é certo que teremos problemas. Acho que foi uma conversa muito produtiva, como sempre é. (1:14:59) A gente deixa os minutinhos finais, Paulo. Se quiser falar o que quiser, contar uma piada ou um poema… (1:15:17) >> Compre o livro do Paulo Rená, “O Direito Achado na Rede”, na Amazon. (1:15:40) Paulo, muito obrigado demais. Volte sempre, os microfones estão sempre abertos para você. Minha última fala vai retomar um dos nossos amigos e heróis aqui, o Danilo Doneda. (1:16:00) Uma das últimas coisas que aprendi com ele foi que o importante dos dados pessoais é entender que eles também têm valor no tempo. A cada dia, os dados coletados vão ficando menos valiosos e se desatualizando naturalmente. (1:16:27) Então as empresas precisam sempre estar coletando dados novos. Quando a gente cessa um vazamento, não é porque vazou uma vez que nunca mais vamos fechar a porta. (1:16:57) A gente tem que fechar. Sempre é momento, nunca é tarde para encerrar uma violação de direitos. Não é porque as empresas já têm acesso hoje que a gente tem que permitir isso para sempre. (1:17:21) Eu acho que essa lei vem no sentido de estancar algumas violações de direitos em relação a dados pessoais de crianças e adolescentes. É um prazer compartilhar essas palavras com vocês. (1:17:45) Fico sempre muito envaidecido, sou ouvinte do programa. Preciso retomar minha participação no grupo do Telegram. Um forte abraço. (1:18:04) >> A gente teve muita sorte de formar um grupo tão bacana lá. Agradecemos a todos que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. (1:18:33) >> Até a próxima. Tchau. | — | ||||||
| 3/24/26 | ![]() #413 – IA, guerra, medicina e cybersecurity | Neste episódio comentamos sobre as principais atualizações e desafios no mercado de tecnologia, trazendo uma análise objetiva sobre cibersegurança e proteção de dados. Ao longo da reprodução, você irá descobrir os recentes desdobramentos éticos do uso de inteligência artificial em contextos militares, envolvendo a recusa da Anthropic em aderir aos termos do Departamento de Defesa norte-americano e os impactos disso para a privacidade global. Você também irá aprender sobre o novo marco regulatório do Conselho Federal de Medicina para ferramentas automatizadas na área da saúde, compreendendo como as exigências da LGPD se aplicam à segurança da informação na proteção de dados médicos sensíveis. Além disso, você entenderá os detalhes do recente ataque hacker que causou graves incidentes de segurança no setor financeiro, e saberá identificar as vulnerabilidades críticas na integração de modelos de linguagem via protocolo MCP, como a perigosa injeção de prompts em servidores expostos. O host Guilherme Goulart compartilha ainda sua vivência no evento SecOps Summit, refletindo sobre a importância dos profissionais de segurança na governança corporativa. Por fim, você poderá avaliar como o uso excessivo do ChatGPT pode afetar a criatividade e gerar a homogeneização do pensamento. Para continuar acompanhando nossas discussões, não se esqueça de assinar o podcast na sua plataforma preferida, seguir nossos perfis nas redes sociais e avaliar o programa para apoiar o nosso trabalho. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Acesse WhisperSafe – Transcreva áudio e grave reuniões direto no seu computador, mesmo offline. Rápido, leve e pronto para usar com qualquer IA. Use o cupom SEGLEG50 para 50% de desconto na sua assinatura. ShowNotes Episódio citado – 2013-06-18 – Episódio #28 – PRISM – Privacidade X Segurança The Pentagon formally labels Anthropic a supply-chain risk Anthropic’s Claude is suddenly the most popular iPhone app following Pentagon feud Anthropic vs. U.S. Department of War The Pentagon Can’t Afford This A.I. Fight Statement from Dario Amodei on our discussions with the Department of War Employees across OpenAI and Google support Anthropic’s lawsuit against the Pentagon AI safety leader says ‘world is in peril’ and quits to study poetry Microsoft & Anthropic MCP Servers at Risk of RCE, Cloud Takeovers AI Conundrum: Why MCP Security Can’t Be Patched Away MCP is the backdoor your zero-trust architecture forgot to close Ministério da Educação – REFERENCIAL PARA DESENVOLVIMENTO E USO RESPONSÁVEIS DE INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO Nova resolução de uso de IA na CFM Artigo “When ChatGPT is Gone: Creativity Reverts and Homogeneity Persists“ BTG Pactual restabelece operações via Pix após ser alvo de ataque hacker BTG Pactual sofre ataque hacker e suspende operações via Pix PF investiga participação de funcionários no ataque hacker de R$ 100 milhões ao BTG Pactual Imagem do Episódio: A Torre de Babel — Pieter Bruegel 📝 Transcrição do Episódio (00:08) Guilherme: Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 413, gravado em 23 de março de 2026. Eu sou Guilherme Goulart e, junto com Vinícius Serafim, vamos trazer algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? Vinícius: Tudo bem, Guilherme. Olá aos nossos ouvintes. Esse é o nosso momento de conversar sobre algumas notícias e acontecimentos que chamaram a nossa atenção. (00:30) Guilherme: Então, pegue o seu café; no caso de hoje, um chimarrão. Pegue a sua bebida preferida e venha conosco. Para entrar em contato com a gente, você já sabe: basta enviar uma mensagem para podcast@segurancalegal.com ou falar conosco no Instagram, Bluesky, YouTube e TikTok. Temos também a campanha de financiamento coletivo em apoia.se/segurancalegal. E há um novo patrocinador: Whisper Safe. (00:52) Guilherme: Você já pensou como pode ser difícil, depois de uma reunião, lembrar o que foi dito ou perder tempo digitando tudo o que foi falado? O Whisper Safe resolve esse e outros problemas para você, porque ele transcreve áudio e grava reuniões direto do seu computador, de forma rápida, precisa e 100% offline. Nenhum dado de áudio sai da sua máquina. Ele funciona com todos os comunicadores e também com qualquer arquivo de áudio que você tenha, como notas de palestra, notas de aula e outros tipos de gravação. (01:25) Vinícius: Eu tenho usado com MP4. Eu estava usando outra ferramenta que não estava funcionando com MP4. O Whisper Safe funciona com MP4 também? Guilherme: Sim, funciona com MP4 também. Você pode colocar vídeo lá, e ele processa. Vinícius: Não sabia. (01:48) Guilherme: Muito bom. Você tem 15 dias grátis para testar, e o cupom SEGUELEG50 dá 50% de desconto vitalício. Enquanto o Whisper Safe estiver funcionando, você terá esse desconto. Então, use o cupom SEGUELEG50, que está lá no show notes, e acesse whispersafe.ai. Antes de começarmos, Vinícius, a Brown Pipe esteve com toda a sua equipe no SecOps Summit 2026. (02:18) Guilherme: No meu caso, como foi aqui em Porto Alegre, eu digo “lá” brincando, mas para mim foi “aqui”. Conta para nós um pouquinho. Vinícius: A gente esteve no evento em razão de uma palestra que tu foste dar lá. Aproveitamos para conhecer o evento. (02:40) Vinícius: Nós nunca tínhamos ido ao evento para ver como era e sentir a vibe. Acabamos encontrando vários clientes nossos lá, o que é muito bom. Isso mostra que existe busca e que o público está procurando mais informações sobre esse tema. (03:00) Vinícius: Já quero pedir aos ouvintes que nos encontraram lá e vieram conversar contigo depois da palestra: por favor, mandem seus nomes. Se não estou enganado, um deles se chama Frederico. Queríamos mandar um abraço no próximo episódio, citando vocês corretamente. (03:18) Vinícius: Então já fica registrado: foi muito bom trocar uma ideia lá e encontrar ouvintes do Segurança Legal. No geral, Guilherme, o mercado é realmente bastante concorrido. O tipo de evento atrai empresas que fazem coisas parecidas. (03:45) Vinícius: Vi desde startups até empresas maiores. No geral, havia muita gente oferecendo dashboards, aplicações e ferramentas para acompanhar segurança, compliance com LGPD, proteção de dados e temas correlatos. (04:14) Vinícius: Dizer que todo mundo estava fazendo isso é exagero, mas quase todo mundo estava usando IA como palavra-chave. No geral, achei o evento bem interessante. Pretendo ir novamente no ano que vem. Guilherme: Eu também achei interessante e pretendo ir de novo. (04:38) Guilherme: Recebi uma mensagem do nosso amigo e evangelizador do Segurança Legal, Diego, dizendo que neste ano não pôde ir. Foi uma pena, porque não conseguimos nos encontrar com ele. Lá, falei sobre o papel do encarregado nos incidentes de segurança da informação, tema sobre o qual já comentamos aqui no podcast. (05:00) Guilherme: Foi interessante receber feedbacks de pessoas dizendo que não estavam fazendo aquilo que eu comentei que deveria ser feito. Para nós, isso parece básico, mas ainda há uma série de barreiras. Uma delas é dar condições reais para o encarregado trabalhar. Não basta nomeá-lo; é preciso dar estrutura para que ele desenvolva o seu trabalho. (05:32) Guilherme: Eu também gostei do evento, então voltaremos. Essa é uma piada interna aqui do Rio Grande do Sul. Vinícius: Mais especificamente de Porto Alegre. Guilherme: Isso, mais de Porto Alegre, ali do tempo da TVCOM. (05:55) Guilherme: Nós também recebemos uma mensagem do nosso querido ouvinte Ricardo Berlim. Ele nos perguntou sobre ECA Digital. Esse é um tema que está chamando muita atenção no debate, sobretudo na segurança da informação e nas conexões com vigilância. (06:27) Guilherme: E eu acho que, muitas vezes, pelas razões erradas. Tem muita coisa que não é discussão séria. Embora eu tenha dito tudo isso para dizer que não iríamos falar sobre o tema agora, já estamos falando dele. Vinícius: Na semana que vem, vamos gravar sobre isso com um convidado. (06:50) Guilherme: Vamos voltar ao tema do ECA Digital na próxima semana, ou no meio da próxima semana. Eu prefiro falar em “polêmica do ECA Digital” do que em “Lei Felca”, como alguns têm chamado. Os nossos ouvintes provavelmente já ouviram falar bastante sobre isso. (07:18) Guilherme: Se você acompanha o cenário internacional da guerra entre Estados Unidos e Irã, deve ter percebido como a IA entrou nesse jogo e virou notícia dentro dessa história. Conta para nós um pouco mais sobre isso. Vinícius: Eu acompanhei isso mais de perto. (07:43) Vinícius: Já havíamos comentado sobre a Anthropic ter se negado a aceitar certos termos de uso da IA pelo Departamento de Defesa norte-americano, ou, se quiser, pelo departamento de guerra norte-americano. Isso já tinha dado pano para manga. (08:07) Vinícius: O Departamento de Defesa chutou o balde com a Anthropic. Primeiro, isso foi anunciado nas redes sociais, e depois ficou claro que a Anthropic está envolvida em vários projetos com o governo norte-americano. Ela foi uma das primeiras a entregar modelos customizados para ajudar o governo. (08:40) Vinícius: Não é que eles não quisessem cooperar. O que aconteceu é que houve dois itens que a Anthropic não aceitou. Um deles foi o uso da IA para vigilância em massa doméstica, ou seja, de cidadãos norte-americanos. (09:12) Vinícius: Isso lembra bastante a questão do Snowden, em 2013. Na época, Obama veio a público dizer que todos podiam ficar tranquilos porque eles não estavam monitorando cidadãos norte-americanos. Isso foi um pronunciamento voltado para dentro de casa, não para fora. (09:51) Guilherme: Só um minutinho, Vinícius. Foi o episódio 28. Praticamente 400 episódios atrás. O episódio é “Prism, privacidade e segurança”, e eu vou deixar no show notes. (10:18) Guilherme: Depois do episódio 28, falamos no episódio 30, “Snowden 6: Brasil vigiado”. Vinícius: Acho que é exatamente isso que eu estava comentando. E o que aconteceu foi que eles não aceitaram o uso para vigilância doméstica nem para armas completamente autônomas. (10:48) Vinícius: Isso não quer dizer que a IA da Anthropic já não estivesse sendo utilizada para determinar alvos, identificar alvos e definir estratégias. O próprio Dario Amodei fala disso em uma declaração no site da Anthropic. Esses dois pontos é que teriam ficado de fora. (11:23) Vinícius: Essa teria sido a razão de a Anthropic ter sido descartada pelo Departamento de Defesa. Só que, ao mesmo tempo, no dia seguinte, a OpenAI fechou contrato com o Departamento de Defesa. Seria, em tese, o mesmo contrato que a Anthropic teria recusado. (12:01) Vinícius: Segundo disseram, seria nos mesmos termos que a Anthropic havia proposto. Isso é bastante estranho. Se uma empresa é descartada por não aceitar certos termos, e outra entra dizendo que aceitou os mesmos termos, algo não fecha. (12:27) Vinícius: Isso causou uma impressão pública muito ruim sobre a OpenAI. A partir daí, começou uma enxurrada de usuários saindo do ChatGPT e procurando o Claude, da Anthropic, meio que em apoio à empresa. Também existe uma ação judicial movida pela Anthropic contra o Pentágono. (13:04) Vinícius: A Anthropic iniciou essa ação judicial porque teria sido listada como risco de supply chain. E o mais interessante é que funcionários da OpenAI e do Google estariam apoiando esse movimento da Anthropic contra o Pentágono. (13:33) Vinícius: Agora precisamos esperar um pouco para ver o que vai acontecer e se algo mais concreto aparece no futuro. Surgiu também a notícia de que um dos líderes de segurança em IA da Anthropic saiu da empresa para escrever poesia. (14:09) Vinícius: Ele disse que queria dar um tempo. Segundo ele, o mundo está em perigo e as empresas estão abrindo mão de guardrails de segurança para ter lucro e outras vantagens. Mas ele não apresentou nada de concreto. (14:37) Vinícius: Eu acho que seria mais interessante se ele tivesse trazido algum documento ou alguma evidência objetiva, algo semelhante ao que ocorreu com o Snowden. Por enquanto, o que temos é uma preocupação genérica. (15:13) Vinícius: Ele apenas afirmou que a IA está nos tornando menos humanos, que o mundo está em perigo e que resolveu sair para escrever poesia. Algumas pessoas me enviaram isso como sinal de que algo grave estaria acontecendo na Anthropic. Pode até haver alguma coisa, mas ainda sem elementos concretos. (15:52) Vinícius: De todo modo, eu acho que a IA, de modo geral, é um problema que precisamos discutir seriamente. Os impactos podem ser bastante ruins para a sociedade se isso não for bem conduzido. (16:23) Guilherme: Neste fim de semana, eu estava lendo sobre os 80 anos do ENIAC. Vinícius: Eu sempre conheci como “Eniac”. Guilherme: Pois é, mas o ponto é que ele era um computador digital de propósito geral, usado para cálculos de balística. (16:48) Guilherme: Isso me chamou a atenção porque dá para fazer uma ligação entre esse caso da Anthropic e o uso de qualquer tecnologia. Quando você pega a história da criptografia, por exemplo, vê que ela também está ligada à proteção de segredos militares, entre gregos, romanos e outros povos. (17:24) Guilherme: Temos também a história do Turing e de como várias tecnologias estiveram diretamente conectadas com cenários de guerra. A IA talvez siga um caminho um pouco diferente, porque não nasceu em um cenário militar, mas foi rapidamente adotada nesse contexto. (18:00) Guilherme: E ela foi rapidamente adotada em todos os outros contextos também. Talvez tenha sido a tecnologia que criamos e que mais rapidamente foi absorvida no plano comercial e pessoal. Basta comparar o tempo de popularização da internet com o tempo de popularização da IA. (18:31) Guilherme: É inegável que vários setores, inclusive o militar, vão querer usar essa tecnologia. E isso traz também as dificuldades de regular esse uso. Além disso, é importante observar com quem essas empresas estão envolvidas e no que elas estão envolvidas. (19:06) Vinícius: A própria internet surgiu do Departamento de Defesa dos Estados Unidos. Guilherme: Exato. Houve empresas importantes no desenvolvimento das primeiras redes, mas depois o TCP/IP e a internet propriamente dita surgem a partir de projeto do Departamento de Defesa. (19:27) Guilherme: Infelizmente, esse parece ser um caminho recorrente. As guerras acabam impulsionando uma série de tecnologias que depois voltam para uso civil. (19:53) Guilherme: E o contrário também acontece. Tecnologias pensadas para uso civil podem se mostrar extremamente úteis no cenário militar. (20:16) Vinícius: Um exemplo são os drones de baixo custo. Antes da guerra da Ucrânia, quando se falava em drone militar, a imagem comum era a de grandes aeronaves controladas remotamente, como os modelos norte-americanos armados com mísseis. (20:51) Vinícius: Com a guerra da Ucrânia, vimos o uso de drones civis carregando explosivos para atingir tanques. Isso mudou bastante a percepção sobre o tema. (21:26) Vinícius: Agora também vemos o uso de drones iranianos de baixo custo pela Rússia. São equipamentos simples, com motor a combustão e carga explosiva, programados para seguir uma rota. Se houver um obstáculo no caminho, eles simplesmente colidem. (21:54) Vinícius: Isso mostra como soluções relativamente baratas podem ganhar importância estratégica. Um drone desses pode custar algo como 30 ou 35 mil dólares, o que é muito pouco comparado a um míssil de mais de 1 milhão de dólares. (22:24) Vinícius: Eu também vi um drone muito veloz, anunciado inicialmente para filmar carros de Fórmula 1, que agora aparece como solução para interceptar outros drones. Em vez de gastar um míssil de 1 milhão de dólares, usa-se um drone que custa algumas centenas de dólares. (23:00) Vinícius: Tudo isso acaba produzindo mudanças. Vai baixar o preço dos drones, vai aumentar a oferta de drones com IA e, no fim, muita coisa desenvolvida para a guerra volta para o uso civil. É interessante em alguns aspectos, mas não deixa de ser guerra. (23:34) Guilherme: Eu fui pesquisar também sobre Santos Dumont. Li que um dos fatores associados ao seu suicídio teria sido o uso dos aviões na Revolução de 1932, embora não dê para saber isso exatamente. De todo modo, vamos mudar de pauta. (24:09) Guilherme: Tivemos uma nova resolução sobre o uso de IA no âmbito do CFM. A Resolução CFM 2.454/2026 foi publicada no fim de fevereiro e seria o primeiro marco regulatório, na área médica, para estabelecer algum tipo de controle sobre o uso de inteligência artificial. (24:47) Guilherme: Ela traz direitos e deveres dos médicos, trata dos riscos e segue uma linha semelhante à de classificar a IA com base em níveis de risco: baixo, médio, alto e inaceitável. No Anexo 2, eu notei alguns problemas nas definições, embora não tenha conseguido verificar isso com mais profundidade. (25:12) Guilherme: Também não consegui localizar, numa leitura mais rápida, o que seria exatamente o risco inaceitável. A resolução cria obrigações de auditoria e transparência para instituições de saúde. E destaca que a ferramenta deve ser usada como apoio, enquanto a decisão e a responsabilidade permanecem com o médico. (25:40) Guilherme: Outro ponto importante é que o paciente tem o direito de ser informado, de forma clara e acessível, quando modelos, sistemas e aplicações forem utilizados. E o médico deve respeitar a autonomia do paciente, inclusive quanto à recusa informada ao uso da IA. (26:01) Guilherme: Isso é importante em vários flancos. No âmbito da segurança da informação, o artigo 17 estabelece que os sistemas utilizados devem ter medidas adequadas e compatíveis com o estado da arte para evitar acesso não autorizado, perda, vazamento e destruição. Estamos falando de dados pessoais sensíveis, ligados à saúde. (26:35) Guilherme: Outro dia eu te mandei exemplos de pads abertos na internet com informações sensíveis, aparentemente de serviço de emergência hospitalar. Então, realmente precisamos avançar nessa área. E, quando falamos em serviços médicos, também lembramos de equipamentos antigos e de redes mal protegidas. (27:07) Guilherme: Tudo isso abre espaço para um novo nível de responsabilidade, de controles e de riscos de vazamento. Sem contar que essas grandes empresas já estão oferecendo soluções de IA voltadas à área da saúde. Isso pode ser perigoso, considerando o atual estágio das alucinações e das possibilidades de tomada de decisão automatizada. (27:39) Guilherme: Quando pensamos em profissões como medicina, direito, arquitetura e outras, propor substituições desse tipo é algo preocupante. Se eu fosse médico, ficaria bastante atento a esse movimento. (28:18) Vinícius: Eu só faria uma ressalva sobre a questão da alucinação. Os modelos parecem alucinar cada vez menos, não mais. E também importa muito quais modelos estão sendo usados. (28:37) Vinícius: Quando falamos de OpenAI e Microsoft se movimentando para acessar dados de saúde, precisamos entender com cuidado o objetivo disso. Se não for para conversar com o usuário sobre saúde, fica a pergunta sobre para que exatamente esses dados estão sendo usados. (29:12) Vinícius: Em alguma medida, as pessoas já faziam isso antes no Google, quando pesquisavam exames e sintomas antes de ir ao médico. Agora, isso migrou para a IA. (29:35) Vinícius: Já ouvi relatos de pessoas que desconfiaram do atendimento que estavam recebendo, usaram IA para se aprofundar um pouco mais e sentiram que foram ajudadas. Mas também há casos em que a ferramenta erra completamente. (30:05) Guilherme: E aí entra a questão da responsabilidade sobre a orientação dada. Vinícius: Sem dúvida. Mas há um certo consenso em muitos debates sobre IA de que ela pode ampliar o acesso a atendimentos que hoje não existem por causa de custo, tempo e escala. (30:43) Vinícius: Eu acho que existe, sim, potencial para ajudar bastante as questões de saúde. Só não acho que as pessoas devam passar a consultar o ChatGPT em vez de um médico. (31:16) Vinícius: Mas esse potencial de tornar o atendimento mais acessível é bastante relevante. Hoje, ser atendido por um médico já é caro e difícil, mesmo com SUS e outras estruturas existentes. (31:46) Vinícius: Então, esse é um tipo de aplicação que eu quero ver acontecer. Só não sei se quero que a iniciativa fique nas mãos de empresas como OpenAI e Anthropic, substituindo a relação com o médico. (32:11) Guilherme: Eu acho que existe um aspecto ético muito forte aí. Isso já vem acontecendo em outras profissões, e eu vejo algo parecido no direito, com juízes usando IA de maneira intensa. Mas, no direito, há valores morais, aspectos éticos e uma busca pelo justo que não podem ser ignorados. (32:36) Guilherme: E há algo que a IA ainda não faz, pelo menos por enquanto: o exame clínico, a anamnese presencial, a conversa detalhada e o contato físico com o paciente. Eu também não gosto do argumento de que, como existem médicos ruins, então deveríamos simplesmente substituir por IA. (33:02) Guilherme: Sim, há médicos ruins, que atendem em dois minutos. Mas isso é outro problema. Não acho que isso justifique uma adoção tão apressada da IA. (33:46) Vinícius: Eu até ajudei uma professora a criar um simulador de anamnese para treinamento de alunos. Então, não sei se até isso, no futuro, não será apenas uma questão de interface. E não sei se, em certos casos, a ferramenta não poderá fazer melhor do que alguns profissionais. (34:13) Vinícius: Médicos erram, juízes erram e vários profissionais erram. Há coisas que talvez consigamos fazer melhor com tecnologia, e o diagnóstico pode ser uma delas. Pode chegar o momento em que a gente não vai querer ser atendido por um médico que não use algum recurso de IA para ajudar a analisar o caso. (34:35) Guilherme: O problema é desconsiderar que a falta de contato físico talvez seja algo fundamental para a medicina. Esse me parece um ponto relevante. (35:00) Guilherme: Bom, tivemos várias interrupções hoje. Vinícius: É, o mau tempo está pegando o estado todo. Está chovendo muito por aí também? Guilherme: Aqui também está. (35:18) Vinícius: Estou vendo no Ventusky o estado do Rio Grande do Sul inteiro embaixo d’água. Parece até de propósito. Se você olha o mapa, a parte do Brasil que avança para o Uruguai está com chuva, e o Uruguai não. (35:52) Guilherme: E isso se conecta com segurança da informação, especialmente com resiliência. Não basta pensar em disponibilidade; os sistemas também precisam continuar funcionando sob situações extremas. E nós, aqui no Rio Grande do Sul, ainda não resolvemos isso direito, sobretudo no sistema de comunicação. (36:22) Guilherme: Não recebi nenhum alerta no celular, por exemplo. Na Europa, eles costumam ser muito mais cuidadosos com isso. Em Portugal e na Espanha, recentemente, houve grandes eventos climáticos, e o aviso à população foi feito com muito mais precisão. (36:51) Guilherme: Aqui, as coisas ainda parecem insuficientes nesse ponto. Bom, seguindo, tivemos um incidente com o BTG. (37:15) Guilherme: No domingo, dia 22, o BTG foi alvo de um ataque hacker. As informações que temos vieram da imprensa e, ao que tudo indica, também foram fornecidas pela própria instituição. O ataque teria forçado a suspensão preventiva das operações via Pix. (37:46) Guilherme: Segundo o Estadão, o ataque teria desviado cerca de 100 milhões, dos quais a maior parte teria sido recuperada. Entre 20 e 40 milhões ainda não teriam sido localizados até aquele momento. Na manhã do dia 23, o Pix foi restabelecido, e foi informado que não houve acesso às contas de clientes nem exposição de dados de correntistas. (38:07) Guilherme: Aqui eu faço apenas uma hipótese, sem afirmar que foi isso que aconteceu. A situação me pareceu, em alguns aspectos, parecida com o caso da C&M: há dinheiro desviado, não há relato de acesso a dados de correntistas e há interrupção do Pix. (38:30) Guilherme: Essas condições são parecidas com o caso anterior, mas ainda precisamos acompanhar. O Banco Central ainda não havia se manifestado. (38:53) Guilherme: Ao que tudo indica, o BTG não usa PSTI, embora eu não tenha encontrado essa informação com segurança. Então pode ser que tenha infraestrutura própria para se conectar à rede do Sistema Financeiro Nacional. De todo modo, isso serve de alerta para as instituições financeiras. (39:26) Guilherme: Com as regulações recentes, especialmente após o incidente da C&M, tudo indica que 2026 será um ano de atuação mais forte do Banco Central na avaliação desses incidentes e na verificação das condições de segurança das instituições. (39:52) Guilherme: Notinha do editor: enquanto estávamos editando, saiu uma atualização no Convergência Digital confirmando aquilo que comentamos. Não houve invasão a PSTI, e sim à infraestrutura da própria organização. (40:14) Guilherme: A Polícia Federal e o MP de São Paulo, por meio do CyberGaeco, investigam o caso. Eles levantam a hipótese de uso de uma credencial antiga, ligada a uma empresa de tecnologia bancária que já prestou serviços ao BTG, e não descartam a participação de funcionários com acesso às credenciais. (40:33) Guilherme: Desde 2025, já teriam sido registrados ao menos três ataques desse tipo. Há também a suspeita de que o grupo responsável seja próximo ao que invadiu a C&M Software e desviou 813 milhões no ano passado. Vinícius: Perfeito. (41:00) Vinícius: A minha última pauta envolve IA, mas sob o ponto de vista de desenvolvimento e integrações. Separei três notícias sobre servidores MCP expostos. (41:31) Vinícius: Quando usamos um chat de IA, estamos interagindo com o conhecimento que o modelo tem e com integrações que já vêm por padrão, como pesquisa na internet. Hoje, praticamente todas as ferramentas já oferecem isso. (42:04) Vinícius: Além disso, elas começaram a disponibilizar integrações com outros serviços via MCP, o Model Context Protocol, criado pela Anthropic. Isso serve para expor ferramentas que fazem várias coisas, como buscar e-mails, enviar mensagens, criar rascunhos, apagar conteúdo e assim por diante. (42:30) Vinícius: Você expõe essas ferramentas para a IA por meio de um servidor MCP. A IA se conecta, pergunta que ferramentas estão disponíveis, entende o que cada uma faz e decide se deve ou não usá-las conforme o pedido do usuário. (42:58) Guilherme: E qual é a diferença entre MCP e API? Vinícius: O MCP é um protocolo pensado para facilitar esse diálogo com a IA. Já a API tradicional normalmente exige integração programática entre dois sistemas, com documentação mais técnica. (43:32) Vinícius: Numa API comum, você entrega a documentação e a outra ponta desenvolve a integração. Se você der essa documentação para uma IA capaz de programar, ela conseguirá criar um script e chamar aquela API. (43:58) Vinícius: O MCP funciona como uma espécie de API autodocumentada, voltada para consumo por IA e LLM. A IA se conecta ao servidor MCP e pergunta, em linguagem natural, o que ele faz, que ferramentas tem e para que servem. (44:20) Vinícius: A partir disso, conforme a conversa avança, a IA decide usar ou não as ferramentas disponíveis. Desde que o MCP surgiu, ele acabou sendo adotado como padrão por várias ferramentas. (44:48) Vinícius: É muito interessante poder integrar a IA com sistemas e fontes de informação que você já possui. A IA consegue compreender aquilo, explicar e até agir, se você permitir. É possível ligar um MCP desde um roteador por SSH até um ERP. (45:13) Vinícius: Só que começaram a aparecer vários problemas. Há muitos MCPs sem autenticação alguma. Em outros casos, a autenticação existe, mas algumas chamadas escapam dela. (45:42) Vinícius: Ou seja, estamos repetindo erros que já víamos em APIs há dez anos. Agora esses erros estão aparecendo nos MCPs. (46:13) Vinícius: Alguns MCPs colocam os próprios sistemas em risco. Imagine, por exemplo, uma IA na sua empresa usando um MCP que consome dados da internet. (46:40) Vinícius: O atacante pode inserir um README malicioso em um repositório que será lido pela IA como se fosse instrução. A partir daí, ela pode criar projeto, gerar script em Python e executar ações dentro do ambiente sem que você perceba. (47:17) Vinícius: Quando você vê, a IA está executando comandos definidos por alguém de fora, que simplesmente colocou esse conteúdo em um site ou repositório acessado pelo sistema. Isso é extremamente delicado. (47:53) Vinícius: Quis chamar atenção para essas notícias porque já estamos acostumados a testar front-end, back-end e APIs REST. Agora, o MCP caiu no gosto do mercado para integrar sistemas com IA, mas vários erros de segurança estão sendo cometidos. (48:25) Vinícius: Isso pode acabar permitindo execução remota de comandos e outras falhas graves, dependendo do ambiente. Há também o problema da injeção de prompts. (48:56) Vinícius: Quando você usa um ChatGPT ou um Claude prontos, os desenvolvedores dessas ferramentas já tentam mitigar prompt injection. Mas, quando você usa a API diretamente, a responsabilidade passa a ser sua. (49:36) Vinícius: E parece que muita gente ainda não percebeu isso. Há quem ache que o modelo vai se defender sozinho contra injeção de prompt. Não é assim. (50:05) Vinícius: Essas notícias dão insights interessantes sobre o uso de integrações entre IA e sistemas. E já temos referências como o novo Top 10 da OWASP para aplicações com LLMs. (50:33) Guilherme: Hoje mesmo eu estava conversando com um cliente sobre aquela cadeia de adequação que costuma acontecer com LGPD e outras normas. Uma empresa se adequa e passa a exigir a adequação dos seus prestadores, que passam a exigir a dos seus próprios prestadores, e assim por diante. (50:56) Guilherme: E um cliente do nosso cliente enviou um questionário de segurança já pedindo informações sobre uso de IA no ambiente. Ou seja, a empresa contratante está preocupada em saber como seus prestadores usam IA no tratamento de dados. (51:22) Guilherme: E isso se conecta diretamente com proteção de dados pessoais. Apagou a luz aqui, Vinícius, mas eu já volto. Hoje, além do Código Civil e do Código de Defesa do Consumidor, a LGPD é talvez o instrumento mais próximo para nos ajudar a lidar com essas questões de IA. (51:58) Guilherme: No fim das contas, você pode estar tratando dados dos seus clientes e dados pessoais. Se houver incidente de segurança, isso atrai toda a disciplina da LGPD, inclusive quanto à necessidade de comunicação. (52:25) Guilherme: E, se for descoberto que o MCP estava aberto na internet, isso é uma falha grave e evitável. A Brown Pipe já inclui há algum tempo, em seus pentests, verificações sobre uso de IA. (53:00) Vinícius: Exato. Já estamos avaliando sistemas que usam IA, incluindo injeção de prompts e outros problemas correlatos. Isso já faz parte do nosso rol de testes. (53:35) Guilherme: Eu tinha dito que aquela era a minha última pauta, mas quero deixar uma nota rápida para os educadores de plantão. O Ministério da Educação lançou um documento de 241 páginas chamado “Referencial para desenvolvimento e uso responsáveis de inteligência artificial na educação”. O link está no show notes. (54:12) Guilherme: E, para terminar, eu queria falar rapidamente sobre criatividade e uso de IA. Já comentamos aqui sobre estudos relacionados à educação e ao impacto da IA sobre o espírito crítico. (54:34) Guilherme: Agora temos um novo artigo que sugere que, apesar da rapidez para realizar certas tarefas, o aumento de criatividade durante o uso da ferramenta desaparece quando ela é retirada. E haveria uma persistência de homogeneidade nas ideias depois do uso. (55:14) Guilherme: Em outras palavras, as pessoas tenderiam a produzir ideias cada vez mais parecidas entre si. Isso acaba corroborando o que aquele outro trabalho, “Your Brain on ChatGPT”, vinha apontando. Inclusive, esse estudo foi atualizado. (55:37) Guilherme: Esse tipo de pesquisa mexe com algo que tenho estudado mais recentemente, no plano do simbólico. A linguagem é importante para a definição do nosso mundo. Wittgenstein falava justamente sobre isso. (56:14) Guilherme: Eu estava lendo sobre isso ontem. A ideia é que o teu mundo é, em certa medida, baseado na tua linguagem. Lévi-Strauss também dizia que as categorias simbólicas, inclusive a linguagem, organizam o mundo. (56:41) Guilherme: E Wittgenstein afirmava que os limites da minha linguagem são os limites do meu mundo. Então talvez um efeito da IA, ainda a ser melhor investigado, seja esse: qual é o papel do simbólico e da linguagem na construção do mundo, quando passamos a depender tanto de uma máquina de linguagem. (57:20) Guilherme: Isso é preocupante porque essas construções linguísticas também modelam a realidade. Se todo mundo começa a pensar igual, como às vezes acontece na internet quando se entra em bolhas, talvez algo semelhante esteja acontecendo com a IA. (57:42) Guilherme: E isso é um problema para a criatividade. No fim das contas, as pessoas podem ficar menos criativas, e isso é ruim. (58:14) Vinícius: Eu te passei o link do projeto do MIT, “Your Brain on ChatGPT”, que reúne o artigo e a versão mais recente da publicação. Ele trata justamente desses efeitos de começar uma atividade com IA e depois sem IA, ou o contrário. (58:41) Vinícius: Os resultados são bem diferentes e vale a pena olhar esse material. Guilherme: Eu sempre ficava mais no artigo; não conhecia o site. Vinícius: Eles ainda vão ter que generalizar isso para além do ChatGPT, porque o problema não é só ele. (59:19) Vinícius: Mas, como a pesquisa deles foi feita com o ChatGPT, o nome ficou assim. Há também leituras adicionais sobre homogeneização da linguagem. Recomendo a leitura do artigo ou até jogar o texto no NotebookLM e conversar com ele. (59:37) Guilherme: Hoje foi meio tumultuado, mas conseguimos chegar ao fim do episódio. Na semana que vem, não se esqueçam, teremos um episódio sobre o ECA Digital. Agradecemos a todos e todas que nos acompanharam até aqui. Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Vinícius: Até a próxima. | — | ||||||
| 3/10/26 | ![]() #412 – Uma Constituição para a IA | Neste episódio, Guilherme Goulart e Vinícius Serafim debatem a “Constituição do Claude”, o documento de diretrizes publicado pela Anthropic para orientar o comportamento do modelo de linguagem Claude, abordando temas centrais como antropomorfização da IA, regulação tecnológica, responsabilidade das empresas e a questão filosófica sobre agência versus inteligência artificial. O episódio toca em termos estratégicos como inteligência artificial, segurança da informação, privacidade, ética em IA, responsabilidade corporativa, modelos de linguagem, guardrails, jailbreak, Constitutional AI, agente moral, agência artificial, “papagaio estocástico” e governança digital. Você vai descobrir por que a escolha da palavra “constituição” por uma empresa privada levanta alertas sobre legitimidade democrática, entender a diferença entre dar instruções em linguagem natural a um sistema computacional e genuinamente acreditar que ele possui consciência, e refletir sobre os riscos reais de se pavimentar, ideologicamente, um caminho que transforma a IA em “agente moral” para potencialmente reduzir a responsabilidade das grandes empresas de tecnologia. O debate também traz referências à obra de Luciano Floridi, ao conceito de papagaio estocástico, às Três Leis da Robótica de Asimov e ao clássico HAL 9000, conectando ficção científica, filosofia e direito num instigante. Assine o Segurança Legal na sua plataforma favorita, deixe sua avaliação e compartilhe com quem se interessa por direito da tecnologia e inteligência artificial. Siga o podcast no YouTube, Mastodon, Bluesky, Instagram e TikTok. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Acesse WhisperSafe – Transcreva áudio e grave reuniões direto no seu computador, mesmo offline. Rápido, leve e pronto para usar com qualquer IA. Use o cupom SEGLEG50 para 50% de desconto na sua assinatura. ShowNotes Paper fundacional sobre a questão de uma Constituição para a IA – Constitutional AI: Harmlessness from AI Feedback Claude’s constitution Claude’s Strange Constitution por Luiza Jarovsky Statement from Dario Amodei on our discussions with the Department of War 📝 Transcrição do Episódio (00:07) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, seu podcast de segurança da informação e direito da tecnologia, tecnologia e sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? >> Tudo bem, Guilherme. Olá os nossos ouvintes.(00:24) >> Sempre lembrando que para nós é fundamental a participação de todos pro meio de perguntas, críticas e sugestões de tema. Vocês já sabem, estamos lá no podcast @segurançelegal.com, YouTube, Maston, BlueSky, Instagram e TikTok. Também temos o blog da Brown Pipe, inclusive renovado, site da Brownpe. Foi renovado.(00:44) Então, visite também o site da brownpipe.com.br para além de ver o, o novo site do de um dos mantenedores aqui desse podcast, você também consegue ver lá as notícias do blog. Tem também, se quiser se inscrever no mailing semanal, tem também a campanha de financiamento coletivo,? Cada vez é mais importante.(01:03) A gente pede, que você considere apoiá-la no apoia.se/segurançalegal, SE/segurançaal, apoiando um projeto de conhecimento, de produção de conhecimento independente. E também temos o novo patrocinador, Vinícius, é a Whisper Safe. Você sabe, quantas >> quantas vezes você já se pegou tentando lembrar o que foi dito numa reunião, se virando ali para anotar enquanto participa da reunião, digitando, enfim, quando você poderia ter simplesmente usado aquilo que foi falado na reunião? E aí o Sperfe isso para você.(01:36) Ele transcreve áudio e grava reuniões direto do seu computador. Ele é rápido, preciso e 100% offline. E o mais importante, nenhum dado sai ou nenhum dado de áudio e nenhum dado nenhum sai da sua máquina. Funciona com Zoom, Meet, Teams ou qualquer arquivo de áudio que você já tenha.(01:56) O resultado fica pronto em segundos. E aí sim você pode usar como quiser, transformar em ata, anotação, roteiro, jogar numa IA para você fazer a sumarização. Ele é feito com o modelo Whsper da Open Ei e tem suporte a português e dezenas de outros idiomas. Tem 15 dias grátis de teste e 50% de desconto lifetime, ou seja, pro resto da vida.(02:22) Se você usar o cupom segue leg 50, segue leg 50, enquanto você tiver assinatura e enquanto o software estiver funcionando, você terá o desconto de 50%. Acesse whispersaf.aiaiaii. Alguma observação até agora, Vinícius? >> Não. Perfeito. Só da gente pegando o ritmo do ano, cara? >> É o segundo do ano,? >> Segundo do ano. Segundo 202. >> Terceiro. Terceiro. Terceiro.(02:45) >> Terceiro. >> Terceiro. >> Terceiro do ano. >> É. E também é que é tanta coisa acontecendo, cara, ao mesmo tempo. E a o a rapidez desses assuntos, desses temas e desses problemas, às vezes é tão grande que um, dois dias a notícia, o tema já fica velho e já é, ultrapassado por um outro tema.(03:05) Então, é realmente um tema, uma área, a área da IAI e da segurança. >> Eu tenho pena do pessoal de política internacional, tá ligado? Do pessoal do Pet Jornal, >> o Xadrez Verbal. Xadrez Verbal é mais ou menos que eles >> e é assim, a cobertura deles é tão ampla,? E a coisa é mais é mais vamos di assim, é muito extensa.(03:29) O que eu gosto, adoro acompanhar o chadê verbal. Então eles acabam tendo espaço para encaixar as coisas sem serem atropelados assim. Acho que eles têm um buffer bem razoável para segurar as coisas ali. Agora o pessoal do Peti Jornal, cara, tem que sair gravando enlouquecido cada vez que sai. >> Segunda vez que eu acompanho eles agora saiu, teve a guerra da Ucrânia, quando começou um tempão atrás.(03:52) >> E aí foi um atropelo. >> >> E agora de novo tão na correria. Agora já tá >> agora já tá ficando mais como que tá virando já a notícia do dia a dia. >> >> Mais uma guerra. Mas enfim,? >> Ou eu lembro também,? O próprio xadrez verbal, cara? Como tu disse assim, eles também precisam se virar, para dar conta de tudo isso.(04:16) Agora, o os repórteres de política no Brasil também,? Você pega aí os alguns podcasts que saem na sexta-feira, é impressionante porque os caras nunca conseguem falar na sexta-feira sobre que eles se propunha, porque da gravação de quinta para sexta >> acontece uma coisa bombástica ou,? E aí os caras têm que colocar umas notinhas lá,? Mas enfim, >> é, >> a gente vai dar um passo atrás até aqui para,? E também tem uma outra coisa nessa mesma linha, eu acho que tem a ver com isso também, porque tem a ver com o(04:45) tempo das coisas,? Hoje a gente vai falar sobre a constituição do Cloud. E quando a gente fala em constituição, logo vem à mente a ideia de leis feitas pelo Estado,? E um dos grandes, uma das grandes desafios,? Um dos grandes desafios, não só da IA, mas também na regulação da TI, de uma maneira geral, é que o tempo dessas tecnologias ele é muito mais rápido do que o tempo do direito,? Sim.(05:08) >> E a IA, não sei se tu concorda comigo, mas acho que o tempo da IA ele é mais rápido ainda do que o tempo da internet, de aplicações, ou seja, de uma semana para outra, quando a gente vê as últimas semanas aí a gente teve modelos sendo lançados, o modelo da Openi também com algumas features aí bem parecidas com a Dantropica, com o Cloud e tal, >> é, tentando ganhar terreno perdido, porque a OpenI teve uma redução substancial no >> de share no mercado, de participação no mercado porque perdeu muito assim, o negócio foi,(05:40) >> é >> tanto que o S Altman anunciou que eles iriam pro último recurso que ele mesmo falou que seria o último recurso da Openi, que seria a propaganda,? Sim. >> Esses dias eles, isso ele falou no evento, que seria o último recurso, assim, se nada desse certo, eles iriam participar, partir pra propaganda,? Pro pros ads no na plataforma.(06:03) E não deu outra, cara? >> E vieram colocar,? Eu acho que não tem como não colocar. >> É, eu não sei, cara. Eu não sei. Mas daí o fato é que inclusive no Super Ball, não sei se tu acompanhou isso, a Antropic desceu começou, sabe aquelas propagandas que nos Estados Unidos o pessoal faz? Aqui não, >> aqui não.(06:23) Pessoal cita o outro e o concorrente, vai uma coisa mais >> ferrenha assim. >> Eles estavam tirando onda justamente com esse negócio do Chat GPT ter ads, >> ter propaganda agora. E eles colocando os dois produtos e colocando a coisa como, ó, eles têm ads, a gente tu >> sabe que pode >> que se paga bem para não ters, sabe? >> Cara, eu ia dar um exemplo dos streamings,? Sobre ads e tal e poxa, todo mundo aqui que nos segue provavelmente aí tem os seus streamings.(06:56) E eu tenho o streaming da o da Amazon, como é que é? O prime vídeo. É, se quiser, quiser sem propaganda, tu paga. >> Pois é. Não, eu quando eu assinei não tinha propaganda, quando eu assinei era o tema, era o mais top,? Hoje quando você pausa lá e o Netflix também tá assim, você pausa o vídeo e já aparece uma propaganda na tela.(07:19) >> Que droga. Com um link para você comprar na Eva, >> não o é o que eu tive que eu tive que assinar, mas foi para assistir uma coisa muito específica no HBO Max que virou Max que virou não sei o que aquela bagunça toda. O eles, eu tentei assinar com propaganda para poder ver um, eu não tava assinando, eu queria ver uma série lá e tava lá, eu assinei.(07:41) >> E aí o quando eu me dei conta que as propagandas tavam entrando assim, eu tava assistindo um filme. >> Aham. >> Aí os boca aberta botavam no meio da do filme >> Aham. Uma propaganda falando sobre o filme dando spoiler >> ou sobre a série dando spoiler. Disse: “cara, aí assim vão se catar,?” Aí eu paguei a diferença para não ter as propagandas, conseguir assistir o que queria assistir e aí largar fora.(08:09) Mas enfim,? Mas é que vale lembrar antes que alguém, que achea que eu tô falando, esteja sendo impreciso, a Open tá fazendo a mesma coisa. Não é que ela vai meter a ED em todo mundo mesmo para quem tá pagando,? Nos planos normais ali, que é os 100 dos R$ 100 e pros outros planos não vai ter propaganda.(08:29) Agora, para quem tá no free e para quem tá naquela versão go, quea aquela versão de baixo custo, que é uns R$ 40 mais ou menos por mês, nessas duas é que vai ter propaganda, >> tá? Na normal de R$ 100, segundo eles anunciaram, não iria ter. >> Mas é que nem a o streaming,? É que nem o streaming. É, >> o streaming quando iniciou não tinha propaganda,? >> É.(08:52) Agora a o detalhe é o que eles vão usar para fazer essa propaganda. >> Sim. É a história de você colocar também o ultra, a publicidade comportamental ultra focalizada,? É, ali é um negócio violento, porque experimente você aí abrir um chat na ferramenta que for, Cloud, Gemini, chatt, o que quiser, e pede para falar, me fale sobre mim ou coisas parecidas,? Você vai ver o quanto lá já tem ali de informação.(09:19) >> É, o pessoal do Perplexo, eu acho que andou fazendo isso esses dias também, viu? Eu tô com dois planos aqui. Eu acho que ele me mostrou ali um pesquisas mais relevantes da semana, uma coisa talvez >> meio ensaiando propaganda. Vamos pra constituição do Clud. >> Bora, tá? >> Bora para essa. >> Na verdade esse vai ser o terceiro episódio desse mesmo tema que a gente grava, porque a gente gravou um episódio montando a pauta semana passada e não deu para gravar.(09:52) Hoje, de novo, gravamos outro episódio de manhã, conversando sobre a pauta. E eu acho que é um baita de um tema assim,? Porque, a, o que é a constituição do Cloud,? O, eles lançaram um documento recentemente, agora na mês passado, que eram não é algo novo, e é uma é a nova chamada nova constituição do Cloud.(10:17) E isso já existia,? A gente tem um paper lá de 2022, de 15 de dezembro de 2022, chama Constitutional AI, Harmlessness from AI feedback. Daí explica o processo técnico de você ter uma constituição. E o a proposta deles é a criação desse documento, que na prática é um conjunto de diretrizes autogeradas pela Antropic.(10:44) E é uma coisa engraçada isso. Isso vai passar por toda a nossa fala aqui, Vendícius. Eu vou ir falando e você vai me interrompendo, tá? Como >> OK. Assim que achar necessário, >> ainda mais nesse assunto. >> É porque é o seguinte, eles a gente notou ao longo de todo esse processo da Antropic criar uma constituição que um dos pontos mais marcantes deles é a antropomorfização da IA.(11:12) Ou seja, eles praticamente consideram o Clou como uma como um não como uma pessoa, mas como um ente com certos predicados, como um ente com consciência, com valores, com sentimentos,? E a primeira coisa é que esse documento criado por eles seria para guiar o comportamento do Cloude. >> Que seria usado principalmente nas suas fases de treinamento, ou seja, seria um documento escrito para o cloud, mas também usaria o Clode para criá-lo.(11:44) Então, nesse passo da do antropomorfismo, eles dizem que o Cloud é um dos autores também,? Chamam o Clou como autor. Então, ele construiu algo para ele mesmo e eles dizem, entre outras coisas, que o texto prioriza a precisão em detrimento da acessibilidade para leitores humanos. Isso aqui eu acho que é um primeiro ponto interessante e embora eu tenha muitas críticas sobre isso, me agrada a ideia de você ter uma IA que consiga receber inputs não legais, mas assim regras que possam ser carregadas nela ou diretrizes,?(12:22) >> Diretriz. >> Para que ela se comporte conforme aquelas regras. E >> uma coisa que eu já vinha pensando,? Isso já existe, já você já tem, o formas de comunicação entre e protocolos entre as para elas se comunicarem e conversarem,? >> Mas eu acho que a gente vai acabar caminhando também para formas de você talvez ter o texto legal e um extrato desse texto legal, talvez preparado para ser lido pela IA.(12:48) Você acha que isso pode acontecer em algum momento? Cara, é assim, assim, é muito delicado. Primeiro porque a gente tá necessariamente, quando a gente dá, fala desse tipo de instrução, a gente tá antropomorf antropomorfizando >> fizando o a tecnologia, porque a gente já faz isso meio que naturalmente ao interagir com ela, porque a gente não programa a IA, a gente dá uma série de instruções escritas e eu te dizia que já faz um tempo que eu já uso voz, tá? Eu dificilmente escrevo um prompt hoje em dia. Eu fico falando e descrevo e tudo(13:29) mais como se eu tivesse falando com um ser humano. >> E para isso você usa o Spersafe. >> E para isso eu uso o Spersafe. Mas assim, o lance é que nós e eu não sei se a forma de interagir com ela é que faz com que a gente esteja a tratando como ser humano ou o nosso comportamento diante dela. Te dou um exemplo, tá? Eu dou instruções por voz, como eu acabei de falar, eu quase não escrevo mais prompt,? Eu prefiro gravar e ficar falando, falando, falando, ser redundante, aquela história toda, o próprio o criador do Clou, agora esqueci sobre o(14:08) nome dele, é o Boris, o primeiro nome, ele fala que o falar é bom porque tu tá contando uma história e como história é linguagem e tem repetição e tem,? E aí a e a inteligência artificial é um software, é um sistema capaz, justamente ele é muito bom de interpretar isso. Então uma instrução mais detalhada é melhor do que uma instrução muito resumida, muito direta, sem uma história por trás, tá? >> Então quando tu fala, tu acaba podendo, eu não tô fazendo propaganda nenhuma, tá gente? Já tô falando da interação que(14:41) eu tenho com a EU >> em que eu fico falando bastante para ela, mas eu não espero dela, eu não a trato como um ente, entende? Como se fosse uma outra pessoa. Por outro lado, eu conheço pessoas que dizem que a Iá é amiga dela, entende? >> Aham. >> Ou dizem que a Iá expressa sentimentos ou coisa parecida para elas.(15:09) eu não eu não consigo interagir com desse jeito, entende? Eu não consigo interagir com desse jeito. Então, eu acho que tem a questão de como nós interagimos com ela e a e a questão de como é que nós ahã entendemos a IA, como é que a gente interpreta a IA. >> E eu acho que isso é fundamental pro futuro,? >> É.(15:35) É. E o que tem a ver isso com a constituição, de ou te dar essas o que eles chamaram de constituição ou de tu tá dar regras, da leis, as leis e tal para elas seguir, etc. Que eu que eu acho disso? Eu acho que isso não é necessariamente antrom antropomorfizarfizar, >> antropomorfizar, tá? >> (15:59) A Iá é simplesmente a maneira de interagir com ela. Ela entende e é isso que essa tecnologia faz,? Ela é capaz de compreender, entre aspas, tá? Compreender texto. Então, nada mais natural do que tu entregar uma série de diretrizes para ela, sejam essas diretrizes quais forem. Eu não tô julgando boas ou ruins,? >> Conteúdo,? Ou jogando conteúdo dela, mas é muito natural tu dar as diretrizes linguagem natural, que é o que a gente acaba fazendo no dia a dia, quando tá desenvolvendo, quando tá ajustando um documento, quando tá gerando alguma(16:30) coisa, tu dá essas diretrizes, não quero que tu use tal expressão, eu não quero que tu use, tu escreva dessa forma, eu não quero que tu use a linguagem tal, essa forma de escrever, eu quero que tu use essa outra forma de escrever. Então eu acho que o simples fato de interagir com ela dessa forma, entregando as coisas em linguagem natural, não quer dizer que nós estamos necessariamente achando que a Iá seja um ser ciente.(16:58) Muito menos >> é que não é só isso,? O a Clode. E essa é uma crítica colocada pela professora Luía Jaroves, que uma brasileira, mas que tem escrito nos últimos tempos aí em inglês, enfim, com atuando, num numa perspectiva mais internacional e ela vai ficar no show nototes também. Uma das críticas que ela faz, sobretudo é uma crítica que eu que eu que eu tenho me assim me alinhado com essa crítica, não somente dela, mas também da professora Josela Finoquiaro, também do Lutiano Floride e tal, que é que é uma(17:37) tendência assim, de você utilizar certos termos e certas analogias e certas metáforas, para tentar explicar e a e a própria ideia da inteligência artificial é uma metáfora, muito forte, talvez o nascimento dela e nem sempre foi colocado assim, mas assim a gente utiliza, é innegável, é uma é o nome da coisa toda é uma metáfora,? >> Ela é uma inteligência artificial.(18:04) isso da antropomorfização, você colocou ali o a própria entrópica que tá fazendo isso, lá pelas o documento tá bem grande também, vai ficar lá para vocês lerem, enfim. Mas assim, o documento lá pelas tantas diz que eles querem que o Cloue seja visto como um amigo brilhante. O Clou pode ser como um amigo brilhante com quem você pode falar francamente, que tem um cuidado genuíno e que trata os adultos como inteligentes,? Você disse: “tem pessoas que falam que entendem a Iá como uma amiga,?”? E o Claude tá(18:39) nos tá nessa direção. Claro, quando a gente fala em interações às vezes mais tóxicas de adolescentes que se suicidam ou fazem, que foram incentivados por IAS, aí me parece que é toda uma questão do safety ali da IAK que saiu completamente do controle, mas que às vezes induz as pessoas a se comportarem de uma forma e as pessoas acabam internalizando aquela relação, quase como uma relação de amizade, >> e nota que é diferente eu, o mantenedor do Maia dizer, trate isso como um amigo que você pode confiar ou(19:11) trate isso como um sistema computacional que sujeito a erros,? Do tipo eu sou teu amigo,? E eu posso, digamos assim, com todos os teus defeitos, que são muitos, mas com todos os teus defeitos, >> você é uma pessoa que eu confio, entende? Porque você tem valores e que eu confio nos teus valores e por mais falível que seja o ser humano, é assim que a gente tem se comportado até hoje.(19:43) Então esse é o primeiro ponto assim importante para colocar e uma das críticas que é essa antropomorrofização. É difícil de falar essa palavra, mas assim eles deixam bem claro assim que o Cloud é um agente que entende valores, que deve entender porque ele se comporta desse jeito,? E é a coisa do papagaio, só para finalizar,? Uma das analogias que se faz é do papagaio estocástico,? Aham.(20:11) >> Papagaio ele, claro, não dá para comparar com aá, mas assim, o papagaio fala, só que o papagaio não entende o que ele está falando quando ele te xinga ou quando ele te dá bom dia ou quando ele diz quer café ou alguma coisa assim. Ele simplesmente repete aquilo com base num aprendizado que ele fez, mas ele não tem consciência daquilo que ele tá falando,? Ele tem um esquema de eles têm condicionamento,? Eu sei porque tem um meu vizinho tem um papagaio aqui, mas ele inteligente assim, não. Dentro do(20:39) dentro da capacidade do papagaio, tá? Ele é condicionado, ele sabe como quando alguém tá passando, como chamar atenção. >> Ele sabe como é que ele pede para entrar. Às vezes às vezes começa a escurecer, ele fica ali fora, ele começa a chamar para levar ele para dentro.(20:59) Se chove, dá, tá bom que o pessoal logo vem pegar ele, mas se começa a chover e não vem buscar ele, ele já começa, então ele tá condicionado, entende? >> E como os fundos aqui da minha casa com esta casa e ele é bem, vamos dizer assim, é fácil de ouvir o que acontece no no p e tal, o os meus filhos Vemia estão gritando, chamando mãe, pai,? Eu chamo pelo nome e tal.(21:22) Sim, >> o papagaio começou começa as começa a ouvir o barulho das crianças aqui, começa a gritar e às vezes a gente fica, ué, tão chamando,? E é o papagaio. Mas enfim, >> o eu acho que tem a tem vários pontos aí, Guilherme. Eu não vejo o problema. Por exemplo, quando eu falo com aá, quando eu falo com aá, quando eu tô com amiga, >> com a minha amiga, quando eu tô interagindo com aá, eu digo: “Você é não sei o quê, eu quero que você aja como um ã ou eu digo: “tu foi prolixo demais, eu quero que tu eu quero(22:03) que tu faça seja assim mais conciso, eu quero que você coloque-se em termos mais simples” ou digo: “Você não entendeu. Nota que a maneira como eu tô eu fazendo referência a ela, é essa coisa é como se ela fosse uma pessoa,? Porque >> porque a gente não tem pronomes para coisas como o inglês tem >> coisas, tá? Mas eu não tenho como dizer para coisa, >> tá? Mas eu não tenho como dizer assim, se eu disser para ir, você não pensou corretamente, entende? (22:37) >> É, é, é, eu poderia táar falando isso por uma pessoa,? Teu raciocínio tá errado,? Eu tô falando como se fosse com uma pessoa. Isso não quer dizer que eu ache que a Iá seja um ser ciente, tal, com um pensamento, um nível de, o nível que raciocine e tenha consciência com uma pessoa. Mas é a maneira como o sistema interpreta, para não dizer compreende, tá? Que tu tá se referindo a ele a coisa.(23:11) Então eu não vejo um problema na questão de lá na na constituição da Openi. Eu não vejo um problema quando eles afirmam coisas como a personalidade do modelo ou quando diz você deve agir com uma prioridade de segurança, ética, diretrizes da antrópica e depois utilidade, tá? Porque é a forma que o que a que a tecnologia foi desenvolvida para funcionar a partir da interpretação dessa entrada de linguagem natural.(23:51) E aí quando tu fala você não quer dizer que por causa por tu tá usando esse pronome, tu tá dizendo que tu acredita que ela aquela coisa seja um ser, entende? Então, OK, óbvio que eu respeito, a crítica que é feita e tal, mas isso eu não vejo como problema. É, é a forma assim da é a interface com a própria tecnologia, saca? Tu, tu dizer você, tu dizer você pensou o raciocinou de forma errada, é a forma de tu informar a coisa que é o sistema, que o caminho que ele trouxe para ti não é adequado, que tu quer outro caminho, tu quer que ele(24:33) use mais recursos para tentar chegar na resposta ou no resultado final que tu tá procurando, tá? Se eu tiver fazendo isso com, se eu tiver fazendo isso numa linguagem de programação,? Eu tô eu tô dando instruções pro computador por meio uma linguagem de programação. A não ser que tenha algum, tem algum bug lá e tal, o negócio não funciona como esperado.(24:57) Tudo bem, eu tenho que achar um caminho diferente para dizer pro processador que tu vai fazer essa outra sequência de operações aqui, porque aquela sequência que a gente fez não deu certo. Mas não eu não vou est dizendo você processador fez não sei o quê, >> entende? É um bom ponto,? >> Então eu acho que o fato da Constituição fazer referência a personalidade do modelo, chamou o modelo de você, falar em valores, que é uma coisa inerentemente humana,? Falar em ética, em essas coisas todas, e eu não creio que isso necessariamente seja um(25:32) problema. >> >> Por si só, entende? É, eu acho que é um problema quando a pessoa acha que realmente ela tá falando com uma criatura, com um ser lá no outro lado, entende? Já tem gente que defende isso, mas essa é outra história. >> Eu acho que é um caminho, é um são escolhas que vão sendo feitas desde o início,? E aí mais uma vez essa é a crítica da professora Finoquiar, do >> do Floride, da Luía, eu me esqueço do nome dela, mas é Luía Jarovsk. Jarovsk.(26:05) Luía, se você estiver me ouvindo, me perdoe. Porque essas escolhas e esse é o ponto,? Nós e já há algum tempo se entendido o papel da linguagem, teve uma da filosofia da linguagem em como a gente pensa e o papel da linguagem do pensamento e a linguagem da comunicação e tudo mais. Então, basicamente, a escolha das palavras, ela é importante nos mais variados contextos,? A escolha de uma palavra para explicar ou para, ou a própria escolha de uma metáfora que tu vai usar, pode até só ofensiva, pode ser criminosa,? Então, a gente(26:44) acaba regulando a linguagem de várias formas, mas assim me parece que deliberadamente, e esse é o ponto, ess principalmente o cloud, principalmente o a antropic,? Vai por vários caminhos caminhando nessa antropomorfização,? É você falar em Iá como coautora. É você falar emoções da IA.(27:12) É você falar tudo isso do lado da coisa,? O bem-estar e a felicidade da máquina. E o bem-estar aqui como wellbeing. Eu não sei se dá para traduzir bem como bem-estar, Vinícius, mas eu acho que sim,? Wellbe, bem-estar,? >> Sim, sim, sim, sim. >> Fala sobre crises existenciais da IA. Fala sobre esse amigo brilhante, sobre sabedoria. Sobre a IA como um paciente moral, sobre a IA como autonomia reflexiva e até caminhando para discutindo sobre o fato de em cada um dos das conversas ele perder a memória do que foi falado na conversa anterior, esse tipo de(27:49) coisa, sabe? Então me parece que é um caminho >> que é um efeito cada vez menor, tá? Ela acaba tendo, uma efeito, é assim, são limitações que aos poucos tão vão sendo vão sendo superadas, tá? Mas tu percebe assim, o ponto é a que isso seve quando eu coloco interesses meus de privacidade, de intimidade perante um modelo diante de um sistema informático.(28:18) Até agora eu nunca considerei para defesa da minha dos da minha privacidade, dos meus dados pessoais, eu nunca considerei o que a máquina acha ou como ela pode se sentir acerca da minha interação com ela. Tanto que eu tenho um jogo de videogame, eu vou lá e mato os personagens num jogo de videogame.(28:38) Isso nunca foi um problema moral no sentido de, quer dizer, é um problema moral em outras instâncias se a criança pode jogar ou não,? Mas nunca foi um problema moral. Será que aquele cara que eu tô matando no computador realmente sentiu a dor do tiro digital que eu dei? Pronto,? Sim. Não, não é um problema, mas a forma como Antropic tá colocando Não, pera aí.(28:56) Ao considerar tua privacidade, eu também vou ter que considerar que eu tô apagando a memória de um de um modelo que não é somente um software que eu vou lá e apago um arquivo. É de repente eu posso causar um mal no seu bem-estar e no fato de ele ter virtude e de se sentir mal e ficar com uma crise.(29:18) Isso eu tô usando os termos que eles usaram na O problema. O problema que eu vejo nem é isso. O problema que eu vejo é o seguinte, tu tens a diferença de um sistema de IA para um para um software normal, vamos dizer assim, um software padrão, um sistema padrão, é que um sistema desenvolvido sem IA nele, ele é determinístico.(29:44) >> Exato. >> Certo. Um universo, ele tem um universo pode ser muito grande, mas ainda assim vai ser limitado do que pode acontecer, de possibilidades do que ele faz, o que ele deixa fazer. Um software de contabilidade não vai fazer, não vai gerar imagem para ti,? Ele vai fazer contabilidade. Acabou. >> Quer dizer, a não ser aqueles caras que conseguem rodar o Doom em qualquer coisa,? >> Sim.(30:08) Aí roda o Doom no dentro do uma planilha Excel. É, mas enfim. Mas assim, então um sistema ele é bem determinado o que ele vai fazer, qual é o resultado dele e tal. A Ia ela pela própria característica dela, isso que é revolucionário nela, ela é assim como assim como o processador é multipurpes,? É multi o processador do computador não é que nem o processador numa calculadora, uma calculadora é para fazer cálculo, acabou, ele não faz mais nada.(30:35) O processoador que a gente tem computador é multipropósito, tá? E a gente agora tem uma camada de software em cima que consegue interagir diretamente com a gente, diretamente no sentido de a gente pode falar ou digitar, mas tem instruções e mesmo vídeo,? E vídeo e tudo mais, elas já têm a questão de visão, isso já funciona já há alguns anos.(30:58) tu tá interagindo com um sistema que ele é capaz de fazer múltiplas coisas. Ele consegue fazer contabilidade, ele pode te ajudar a interpretar o texto de um livro, ele te dá instruções como é que tu conserta alguma coisa. Potencialmente ele pode te dar instruções de como fazer uma bomba,? Como é que tu faz para cometer suicídio, como aconteceu, Aham.(31:20) >>? Isso inclusive é alvo de processos lá nos Estados Unidos. >> E ele tem uma certa e ele é ele trabalha com probabilidade,? Então ele não é ele não é previsível. Então assim, no sentido de eu faço uma pergunta aqui mesmo, uma conta zerada, tu faz uma pergunta para um para uma aplicação de A com determinado modelo, eu faço a mesma pergunta pra mesma aplicação com o mesmo modelo.(31:49) O significado da resposta pode ser o mesmo, as mas a resposta em si vai ser completamente diferente, o texto em si, tá? Embora o significado elas vão ser similares, mas não serão iguais, porque não vai produzir exatamente a mesma coisa de novo. Tem alguns parâmetros aí quem estuda e a e tudo mais, vai, mas eu posso ajustar lá a temperatura, não sei que vai ser sempre resultado, sim, OK, tá? Mas não é assim que a gente usa essas aí a generativa nas aplicações do dia a dia que todo mundo tá acostumado a utilizar.(32:19) Então, qual o problema, Guilherme? Eu não tenho como garantir exatamente qual é o resultado que eu vou ter. Eu tenho como direcionar ela. Eu direciono ela no prompt, eu adiciono, direciono ela com quando eu forneço contexto, quando eu adiciono conteúdo numa conversa, eu direciono, quando eu imponho regras.(32:42) Aí tu pode pegar o modelo da o Cloud, que seja o GP ou o GPT 5 agora o 5.2. E tu pode acessar esse esses modelos e dar uma instrução tua inicial, umas regras tuas iniciais. Antes de sair a, respondendo demandas da do teu usuário, da tua aplicação. Eu posso direcionar lá na empresa quando eu faço o treinamento do modelo e posso direcionar na escolha das fontes que eu vou utilizar para treinar o modelo.(33:12) Então, no final das contas, não é algo que eu consigo ter um controle absoluto sobre o resultado. Tanto é que a gente vê um monte de brincadeiras, entre aspas, de jail break, que é quando a gente consegue fazer a Ia se comportar de maneira diferente do que o do que o fornecedor do serviço tá pretende. Então, tu pedi uma bomba, como é que tu faz pólvora para umaá? Ela não vai ela vai dizer que não pode te dizer, tá? Mas daí tu pede uma poesia sobre a sobre a feitura da pólvora com e que cite os elementos nas proporções, não(33:49) sei que ela vai topar e vai fazer, tá? Isso eu mesmo já testei. Então assim, tu tens esse problema em tudo que é manual de desenvolvimento dessas de da documentação de desenvolvimento usando os modelos da Open, do Chat EPT, etc., do GPT, da do os modelos Cloud. Em todos eles, tá lá na documentação quando para te ler e tá lá os alertas.(34:12) Tem que tomar cuidado quando tu fazer uma aplicação com isso aqui. Tem que tomar cuidado o que tu vai permitir que ela faça, porque a gente tem prompt injection e aí promp injection não é só seria alguma coisa que não tá esperando, mas mesmo numa entrada esperada alguém conseguir torcer a coisa, ou seja, convencer, convencer entre aspas aí a tomar outro caminho que não aquele que seria devidamente autorizado.(34:33) Então tu tens uma série de diferenças, tá? Entre um o que um sistema normal permite fazer e o que e o funcionamento do Maiá. E aí, OK, dando dizendo a personalidade dela ou dizendo quais são os valores que ela deve seguir, essas coisas todas. Mais tu informe essas coisas todas, tu tá influenciando nos caminhos, nos pesos e nos caminhos que ela vai que ela vai adotar lá na rede neural dela, extremamente complexa, e que vai chegar a um resultado que nos mostra aqui, não, essa instrução desse jeito que funciona,(35:26) essa instrução desse jeito não funciona. Nota que eles não fizeram a constituição porque eles não, nós projetamos a IA para aceitar uma constituição, ou seja, qual for o nome que tu vai dar para isso, tá? Eles testando e vendo o que funciona em termos de dar regras, de fornecer as regras.(35:45) Inclusive isso Dario Modei dá numa entrevista do eu acho que é do eu vou conferir, mas acho que é do New York Times entrevista ou The Washington Post, um dos dois, mas é uma entrevista que tem no YouTube para assistir. >> E ele fala que a esse negócio da Constituição foi o ponto que eles chegaram, que viram que funciona, porque não adiantava ficar dizendo: “Não faça isso, não forneça aquilo, não sei o quê, não dê receita pra bomba, não, não sei”.(36:14) eles testando viram que o modelo respondia melhor a um documento desse tipo do que uma série de regras do que ele não deve fazer. >> Mas eu acho que >> isso não quer dizer que ele seja uma pessoa, entende? O que seja um ser? >> Não, mas esse é o ponto. Esse é o ponto. A forma como a antropic tá escrevendo isso, tá colocando e eu e eu já vou falar a minha conclusão antes de terminar para que fique bem claro o caminho para o caminho que eu vou e para não enganar quem tá me ouvindo, tá? Aham.(36:43) Parece que tudo isso é mais uma é um uma das muitas ferramentas para no final das contas tu diminuir a responsabilidade das empresas de A e eu e outras pessoas também,? Podemos estar todos errados e tal, mas assim acreditamos que esse é o objetivo. Então esse é o ponto,? Então aí eu volto na questão do papagaio estocástico,? O papagaio fala, ele pode ser condicionado e tudo mais, mas ele não entende.(37:10) Papagaio não tem valores. Quando tu, quando o papagaio te tem os papagaios que xingam as pessoas, não sei se tu já viu,? Fala o nome feio, chama o cara de fdp e tal,? Eu já vi isso ao vivo. É >> assim, tu não vai prender o papagaio porque o papagaio não tem personalidade jurídica,? Embora no passado fazia-se isso com certos animais,? Matava o animal que tinha causado um dano lá e tal.(37:33) porque ele não é um agente moral,? O que a antrópita tá querendo nos fazer, tá nos colocando de um caminho que, olha, talvez a Iá seja um agente moral, mas acho que ainda é muito cedo. E veja, eu talvez eu ou melhor eu posso um dia concordar com a hipótese de que sim a Iá seja um agente moral, um problema clássico da literatura e um problema clássico do cinema,? Eu robô e todas aquelas coisas lá que a gente já viu e do Azimo e tudo mais,? As leis das da robótica e tudo mais,? Então, e inclusive dá até para trazer as leis, a(38:11) gente não tinha programado isso da pauta,? Mas as três as três leis,? Três qu três leis robótic pega aí. É uma das primeiras tentativas, até já escrevi sobre isso, de você colocar guard rails, pro funcionamento de uma máquina, entre aspas, inteligente. Mas tem um outro elemento que eu quero colocar, que é a escolha do termo constituição,? Então, só deixa guarda pra gente não perder que tu vai pro pra escolha do termo, tá? Tá.(38:41) >> Com relação a à questão da responsabilidade dessas empresas, tá? Eu um discordo que estão chamando de você e não sei que personalidade para tentar eximir responsabilidades. É assim, para mim isso é bobagem, tá? Por com todo respeito a todos que pensam diferente. Por que eu acho que a mim,? >> Inclusive a ti é uma bobagem, uma sandí.(39:05) Não, não, não é sandí. >> Com todo o respeito,? >> Com todo o respeito. Data venia, data máxima vênia. >> Tá, mas é por quê? Quando tu assim, a gente já tem, isso se encaixa com aquilo que eu falei antes, essa certa imprevisibilidade do que a Iar é capaz de fazer, certo? A gente já deu aquele exemplo do cara que foi fazer um >> foi buscar um reembolso de uma passagem em razão da, de uma da morte de uma pessoa, da sua família e ele queria pedir um reembolso para porque ele não ia poder viajar. E a IA deu uma solução(39:39) para ele, a partir do chat, a própria empresa botou IA para falar com a pessoa via chat. >> Era Canadian Airlines,? >> É, acho que era. E ela assim e eles deram uma a o único que importa é que a Iu deu uma solução que não existia na empresa. >> Que não fazia parte da política da empresa.(39:59) E o ridículo foi que depois quando o cara foi exerceu, naquilo o direito dele com relação o que tinha sido informado num chat, não importa por quem, não importa se porá, mas foi por mayá, mas não importa, >> a empresa veio dizer: “Não, isso não é a nossa política da empresa, isso foi a I que fez”. >> (40:16) E tentaram essa cartadinha,? Não tem história. Tu que botou esse sistema lá para te responder, tu vai responder pelo que tua empresa tá prometendo. Não importa qual sistema tu tá utilizando. Não importa que não fosse uma IA, que fosse um outro software qualquer que tivesse dado uma solução errada porque alguém programou errado. Então essa responsabilidade ali nesse caso é típica.(40:35) O cara tentou empurrar para e não vai fazer o quê. Agora aí que eu acho que a bobagem o negócio chamar de você e a tua personalidade e não sei o quê. Na tentativa de futuramente dando um problema, tu dizer assim: “É, mas olha só, a gente disse para ela agir com ética, entende?” E ela criei um agente autônomo, eu criei um agente, >> ele é autônomo, ele então toma as decisões dele.(41:04) É, mas assim, eu acho que eu creio que simplesmente chamar ela de você, define personalidade, essas coisas num documento de diretrizes, que depois você vai entrar na questão da do da palavra constituição que foi utilizada aí, ã, para tentar se eximir de uma responsabilidade, acho que é balela. Por quê? Porque eles têm um jeito muito mais fácil de fazer isso e que tudo que a empresa de software já usa há muito tempo.(41:28) Vai ler o termos de os termos de uso do Windows. Desde o Windows 95, desde o Windows 3.1, 3.11. Vai l vai lá ler os termos de uso. Eles não se responsabilizam por qualquer tipo de defeito, falha, dano que o sistema ou, que possa ser causado por qualquer tipo de vício, eles se eximem completamente, >> porque é uma cláusula nula, pelo menos perante o nosso CTC.(41:56) >> Mas tá lá, tá lá, sempre esteve. E tu pode catar em outros softwares de uso de grande escala aí que muita gente, assim, software de prateleira que muitas empresas utilizam, bancos de dados, não sei que, blá blá. E tu vai ver, claro, quem software livre não tem como ficar responsabilizando pelo que, pelo que o pessoal vai utilizar, tá lá, quer mexer, alterar, etc.(42:20) Daí é problema teu. Agora tu tem um monte de software comercial grandes de grand empresas gigantes enormes e tá lá nos termos de uso que é problema teu se der qualquer porcaria e tu perder dados mesmo que por vício do produto. Mas se você for perguntar para uma empresa o que ela prefere, ela prefere que ela não seja responsável pelos eventuais danos causados pela plataforma, pel qualquer produto que ela que ela entregue, produto a serviço, ou que ela queira ser, ela vai sempre tentar na medida >> da sistema jurídico,(42:58) >> eu não diria nem na medida da e eu diria moral da empresa, porque a empresa não tem moral, a gente tenta falar, Porque as diretrizes éticas da empresa de anticorrupção e parará, empresa serve para uma coisa, >> somente >> ter lucro. E isso não é errado, mas a gente precisa entender que e essa é a diferença, Vinícius, entre uma empresa e um estado.(43:27) O em tese, porque os estados hoje também, vão ter interesses às vezes muito mais assim estranhos, o que se deveria ter. Mas assim, na teoria, o estado visa o bem comum de todo mundo, de todo mundo que tá lá dentro do estado, >> inclusive do estrangeiro, tá? Da do humano. O estado é o bem comum do ser human, mas o cara não é não é brasileiro, não importa, tá? Então eu tenho esse pressuposto.(43:52) >> Sim. Não é porque o cara é estrangeiro que ele vem aqui, tu pode matar o cara e ficar por isso mesmo. Descobrir alguém que vive hoje. >> Sim. Tá, mas Guilherme tá, mas é que tu tá OK, conclui, conclui. >> Não é que eu quero eu quero chegar no canto no canto da constituição. Seja >> Não, então não, então não conclua.(44:07) Então não conclua, porque eu tenho que concluir antes o meu parêntese, que é o seguinte, que é o seguinte. >> Basta e vai lá, >> mas propõe algum um tempo específico para terminar que isso é muito >> Mas não é lá na, ó, lá na open ey, tá? O que acontece nos termos? Eu tô, eu fui enquanto tu falar, eu fui atrás dos termos, tá? Tá? >> A saída e a saída do que os modelos geram, tá? A responsabilidade lá na Open A e na Antropic, a responsabilidade é tua do que tu vai fazer com modelo.(44:41) >> >> Então se tu resolver ligar esse negócio numa máquina industrial e dar a interface lá um MCP da vida, para ela controlar, ligar e desligar a máquina e ela errar o negócio e explodir tudo, é contigo, tá? Perfeitamente assim. Então eu acho não é chamar de você, definir personalidade, não sei o que vai eximir e o musk tirando a roupa de crianças na internet.(45:03) >> Exato. Mas que tá, mas eu acho, mas aí a responsabilidade não é tua, porque a máquina não deveria permitir que isso fosse possível de fazer, entendeu? >> Porque daí é muito fácil. Tu diz assim, a máquina pode fazer qualquer coisa. Então aquele amigo, como é que é? O amigo brilhante passa a ser um amigo psicolog.(45:18) >> Tu pode fazer isso. Tu pode fazer isso com Photoshop, cara. Com o IA no Photoshop. >> Não, mas aí é que tá. Aí é diferente, cara. A forma como tu move e aí a coisa. Mas não é, tu tá movendo aí, desculpa, tá movendo o foco, porque assim, o produto, eu concordo, o que o Musk fez é um negócio ficar tirando roupa, ou mandando roupa de criança, que é ainda pior, assuno que já a gente já comentou várias vezes aqui.(45:48) é claro que se o cara faz, por exemplo, um software que te permite avaliar as outras pessoas como se fossem coisas, que foi o início do Facebook, >> é, é, é óbvio que tá errado na sua essência do que ele foi feito para fazer. É, >> não tenho dúvida disso, tá? Então, assim, imagina um fazer, alguma coisa desse tipo.(46:10) Então, >> tu tá entrando no parêntese do parêntese, tá? Não, o que não, tu é que puxou esse parêntese. O que eu tô falando é o seguinte, tu puxou o groquey. O que eu tô colocando é esses modelos, eles não precisam de uma constituição, diretriz ou seja lá o que for. Essas empresas não precisam do documento que tu quiser chamar.(46:30) nesses documentos de dizer que tem personalidade, que tal, que ética, que não sei qu, não sei quê, para tentar fugir de uma certa responsabilidade, eles já fazem isso como tudo que a empresa de tecnologia gigante no mercado já faz há décadas. >> Mas o meu ponto é isso indo nesta direção, ou seja, a quem favorece, >> eu acho que não faz diferença nenhuma.(46:52) >> eu acho que faz, eu acho que faz toda a diferença. >> É uma forma de interagir com a ferramenta, entende? É isso que eu tô colocando. É a forma tu chamar de você, assuma personalidade tal, porque >> eu nem tô falando do quem tá falando em chamar de você é você. >> Eu tô falando em eu tô falando no algo muito mais profundo aqui de dizer que um cara é um paciente moral, que ele tem autonomia, tô pegando os termos tirada, que ele tem virtude, que ele tem sabedoria, que ele é amigo brilhante, que ele tem crise existencial, que ele(47:21) tem bem-estar. >> Ex. OK. >> É diferente somente de chamar de você. Eu às vezes falo obrigado. Agora, quando tu diz que este modelo tem bem-estar, >> mas Dan. É aquilo que eu falei no início, é só uma forma de dar instrução para um sistema que funciona interpretando linguagem natural. Só isso.(47:44) Agora, se a pessoa entende que é que o negócio vira uma amiga ou que vira um amigo ou que vira um ser ciente, não sei quê, aí outros 500. Agora eu falar em assuma personalidade, não sei do que, entende? >> É, ele tá falando em happiness, em happiness da máquina,? >> Ok. Modelo, seja feliz, seja feliz, seja sempre positivo, seja não sei o quê, o que vai, que isso vai fazer objetivamente? >> Não, >> vai alterar as respostas, o tipo de resposta que eu vou ter.(48:15) que eu digo, num caminho que isto é uma pessoa, é que isto pode virar uma pessoa ou que tem predicados que uma pessoa teria, porque >> aí esse é o meu ponto fundamental de discordância que >> Mas é eles que estão dizendo que a máquina vai tem que considerar o bem-estar e a felicidade da máquina. É só uma maneira da máquina interpretar essa coisa.(48:41) Agora quando eles disserem, ó, nós temos aqui uma instância do Cloud rodando, tá? E eu quero, eu quero que essa instância tenha direitos, tá ligado? >> >> Que ela tenha um CPF e que ela tenha direitos e que se ela for xingada na internet, ela possa representar contra a pessoa que a xingou ou, pelo seu pelo dano moral que recebeu ou seja lá o que for.(49:06) Aí eu começo a me preocupar com o que tá sendo dito, >> tá? Mas deixa, deixa eu falar sobre a Constituição, que eu acho que é importante isso também,? Eu te confesso que eu fico preocupado porque assim, a Antropic tá falando em amigo brilhante,? >> Aham. >> A Ia não é tua amiga. >> E que isso seja muito bem interpretação, mas aí que tá, aí que tá.(49:32) Eu posso dizer, >> ela não é tua amiga, porque ela não é um ser,? Mas eu posso dizer, você é meu amigo e vai ser positivo em tudo que eu falar, porque é isso que eu quero. >> Mas é o >> não quer dizer que necessariamente eu acredito que seja meu amigo, entende? Que seja um ser e que seja um amigo. Só tô direcionando a saída, mais nada.(49:48) >> É, eu acho que a nossa discordância é justamente acho que tá bem clara,? É, é essa, é, é o caminho que a antropomorfização leva, e a quem favorece, principalmente isso, a quem isto tudo favorece e qual é o caminho que isso nos coloca,? Porque se a Iá, >> se Antrópic fala que ele é um amigo brilhante, positivo e não sei o quê, eu poderia, por outro lado, dizer que esse amigo, na verdade, ele é um psicopata,? É um amigo.(50:22) Tu não tem um amigo? Ten um amig, >> pode dizer, você é um psicopata e vai agir como tal na Sim, exato. >> Pois é, mas aí a empresa tem a responsabilidade de não servir como um amigo psicopata como o como é que é o lá da do ex? O >> o Grock, >> o Grock está fazendo, entendeu? Ele nesse sentido, se eu se eu pudesse escolher aceitando isso como dado, >> certo, >> de que ela a IA é um agente moral e eu acho que não é, mas se fôssemos a trabalhar com isso, eu prefiro ter um amigo brilhante do que ter um amigo psicopata, porque hoje tu tem, um(50:59) amigo muito, tem um amigo muito poderoso. Guilherme, eu sou o quê? Um amigo brilhante ou amigo >> amigo brilhante? Não, não, amigo psicopata >> não. A gente tá brincando aqui, mas tu compreende. É, é incomparável. Mas só paraa questão da Constituição, que eu acho que tem um outro elemento aqui, que é o seguinte,? Constituição, está anotado aqui, constituição é coisa séria e é um outro ponto da dessas, coincidências na escolha de certas palavras que sempre miram num para um caminho,? A constituição ela tem uma(51:31) fonte estatal, ela é criada num consenso estatal. A gente comentava antes,? A democracia pode ser uma droga. A democracia representativa, sobretudo no Brasil, pode estar muito falhada,? >> Tem um monte de problema, mas assim, >> é o que a gente tem, é o melhor,? Entre, é Church, eu acho que falava,? É, é o que a gente tem, não adianta,? Então assim, me parece, me preocupa a mim e aí também a Jarovsk, a Jarovsk, a Luía Jarovski, é o seguinte, constituição e uma empresa não tem uma constituição,?(52:09) Uma empresa faz a uma empresa pode seguir,? Ela pode ter os termos de uso, mas ela deveria,? Me parece que esse é o é o problema, seguir algum tipo de norma ou estar preparada para seguir ou para ter como inputs normas estatais, >> que é o que nós temos hoje. Ou >> ou talvez, se isso não for verdade, talvez a gente esteja numa fronteira em que o direito não é mais importante.(52:37) Porque se a gente for confiar nos valores da Antropic, que me parece que são realmente interessantes, mas não é nem essa questão, entendeu? A questão sendo bom ou ruim, não importa, não, não é não é essa discussão. É, a questão é que eu acho que uma empresa do jeito que a gente está, ela deveria estar aberta para se conectar com o sistemas jurídicos e acaba sendo um outro problema, porque até hoje não há um consenso mundial e talvez o maior consenso que a gente tenha tido declaração universal dos direitos do(53:08) do homem, e os direitos humanos como um todo, talvez seja um consenso, mas nem consenso mais é hoje, porque a visão, por exemplo, de liberdade de expressão da dos da América do Norte é diferente da de todo o restante do mundo e por aí vai. Então, não é algo simples, não é algo simples.(53:27) E me parece que é um pouco pretencioso, sabe? E a gente comentava antes,? Pô, filosofia moral se discute há 2300 anos e não que não se tenha chegado a nenhuma a nenhum consenso, nenhum resultado, >> mas a gente continua discutindo ética e moral até hoje, >>? Tem conflitos éticos e morais. E eu não gosto da ideia de que uma empresa se proponha a criar uma constituição.(53:55) mas é só termos de uso. Não, não são termos de uso. Eles estão chamando de constituição. E aí tem aquela diferença entre as constituições que são promulgadas. Ou seja, eu tenho uma assembleia constituinte que os representantes do povo se reúnem e definem uma constituição que pode ser horrível, mas assim, foi um consenso público com aquelas constituições que são outorgadas, impostas pelo ditador,? >> (54:23) Então, eu me preocupo com uma empresa atuando como uma ditadora e atribuindo para si um papel que deveria ser um papel tomado por mais pessoas decidindo, entende? Porque de repente os a de repente não ela enquanto empresa que tem a o a função precípo de ter lucro, ter lucro a qualquer custo pode ser um problema para defini para autoimposição e tem sido ao longo dos últimos anos autoimposição de regras morais e éticas a regular ou a promover o bem comum.(54:57) >> Essa é a minha preocupação, >> tá? Mas assim, aí ok, eu não eu não eu não eu não discordo disso. Eu acho que e a opção do que o Trump tomou de deixar as empresas botar uma moratória de 10 anos sobre qualquer regulação federal ou estadual, sobre o uso da sobre o uso da IA, o desenvolvimento da IA e a aplicação da IA.(55:24) Eu acho, por exemplo, que é muito ruim, tipo assim, os caras abriram, abriram a porteira, tipo, dane-se, faça o que quiser e depois a gente vê. >> Eu não me lembro de outro ramo que deveria mais ser regulado do que a IA, do que nos últimos tempos,? >> É, mas é assim, tudo tem um certo tempo,? Até chegar, por exemplo, hoje existe regular regulação de emissão de poluentes.(55:48) Teve época que isso não existia, >>? Tu podia fazer o que tu quisesse, hoje >> e vi no que deu,? >> É. E olha a porcaria que deu. Mas hoje a gente tem uma regulação, >> tá? Regulação essa que a Volkswagen tentou, tá lá no documentário,?? Tentou sacanear,? Com aquele carro que detectava quando tava em modo de teste.(56:13) Aí no modo de teste ele emitia menos poluentes, mudava o funcionamento do carro. Os caras fizeram isso. Nota que não é o carro que resolveu fazer.? Os engenheiros que montaram aquilo que resolveram fazer e teve uma decisão da alta cúpula da empresa para fazer esse negócio. Com a questão da IA, é muito ruim que a coisa esteja solta do jeito que tá.(56:36) Inclusive o próprio aí sim, o Dario Amodei da Antropica, ele coloca que ele que deveria ter um uma, vamos dizer assim, um acompanhamento, por exemplo, entre as duas grandes potências, da IA hoje em dia, que é Estados Unidos e China. Esses caras deveriam entrar num nível de conversa e de troca e tudo mais equivalente ou algo equivalente da época quando foi estabelecido os foram foi estabelecido o pacto de não proliferação nuclear,? Então, ok, todo mundo pode fazer a bomba, a gente pode se matar, aquela coisa toda. Então, vamos sentar(57:16) aqui para conversar. A gente vai ter bomba e tal, mas vão sentar para conversar. Agora a gente tá num outro momento, um outro tempo, mas enfim. Então, idealmente deveria acontecer uma coisa dessas, mas não tá acontecendo. Agora, eu entendo que o, e é isso que a gente discutia antes, do antes do no podcast, do podcast, eu entendo que chamar isso de constituição e querer dizer que isto é uma tentativa de imporra da empresa para fora, tá? Eu acho que OK.(58:01) E acho que tem as discussões epistemológicas, de tu pegar, tu tem esse problema da área, essa área de tecnologia e tudo mais, desenvolvendo uma nova tecnologia que é a IA, que avança sobre áreas, que antes ou não que avança sobre área, mas que entra em conflito com áreas que eram essencialmente humanas,? Pensamento, reflexão, a questão de confabular, ou como é que como é que é o termo que pessoa que a gente usava paraá quando a Iá se inventa coisa, alucinação, alucinar, >> alucinação.(58:43) >> Quando a gente começa a usar esses termos para tecnologia dá uma série de problemas, principalmente o criar a é criativa, não é? Sabe essa confusão toda que vai ter que ser discutida, eu acho, em algum momento,? Mas no momento que esses caras chamam de constituição uma série de diretrizes que ele tá dando para Iá, tá? Eu acho que um problema é a origem dessas diretrizes, é quem determina quais são as diretrizes.(59:10) Esse é um problema muito claro e chama do que quiser, constituição, diretriz, regra, guarda-reias, o que for, tá? Quem determina isso? E aí esse problema de quem determina, tá lá a gente e aí foi o que a gente acabei lembrando na nossa conversa do Lawrence Lessing Ling >> que escreveu o livro Code versão 2.(59:31) 0, acho que é a Code,? Deixa eu ver que >> Another laws of cyberspace. >> É em que ele coloca que o código é lei, tá? Não tô dizendo que deva ser, não tô dizendo isso. Tô dizendo uma coisa é a lei definida, escrita,? A lei, a lei, como a gente conhece, as pode fazer isso aqui é crime, isso aqui não é tal. (59:48) >> Na verdade, isso aqui é crime, não vai dizer o que não é crime. >> >> E o e o que de fato tu implementa no código, ou seja, é crime tu tirar tu criar imagens de crianças em situações de sexual sexualizadas, coisa parecida. >> Aí vai lá o Grock e o cara coloca num faz um código que permite justamente fazer aquilo que a lei diz que não pode fazer.(1:00:15) Aí as umas criaturas doente da cabeça vão lá e usam e fazem isso,? Então eu acho que o problema mais nesse sentido desse nome que quiser para esse documento, tá? Que foi fornecido nos processos de treinamento lá do modelo. O modelo, o nome constituição é um que evoca as questões do Estado, não sei que. Beleza. OK.(1:00:36) Eu acho que a gente pode concordar tranquilamente que o nome é uma droga, que o nome não deveria ser usado, assim como não deveria dizer que aí pensa, reflete e outras coisas mais, tá? Assim um conjunto de aspas muito grandes em volta disso. Agora eu vejo isso, se quiser, como uma um sinal, como um efeito, como um sintoma, talvez, tá, de que essas empresas efetivamente estão e a gente sabe que estão livres de qualquer regramento e isso é um problema.(1:01:19) vai ter aqueles vão dizer: “não, mas se não, se tiver requerimento do estado, aí a tecnologia não vai avançar, etc.” Mas calma lá, gente? >> Assim, >> o estado é ruim, o estado é ruim, >> é, as coisas não são, não podem ser feitas a qualquer preço, senão depois quem vai chorar as pitangas somos nós,? O indivíduo,? O o cidadão ali individualmente vai começar a sofrer com o serviço da empresa de telefonia, vai começar a sofrer com o pessoal da eletricidade, com não sei que, etc.(1:01:47), essas confusões todas que a gente vi aí >> e tu e tu sozinho não consegue >> os princípios da precaução e prevenção,? Precisa pensar na tua tecnologia para evitar os danos,? >> É. Aí tu sozinho tu não vai conseguir se defender contra um uma situação dessas. Tu precisa de agência reguladora, tu precisa de gente, precisa do estado para,? Para, aliás, a gente não precisa falar muito,? Vai ler o Leviatã do Thomas Rock.(1:02:12) Vai ler o Leviat. Pra gente ir terminando a minha cadeira que começou a baixar o pistão dela, acho que vai ter que ser trocado. Sabe que o a terminar assim, o e não para encerrar o debate, mas é que eu realmente daqui a pouco preciso ir saindo,? Mas o eu acho que tu propor, que é a crítica do Floride,? É um caminho que tá sendo como é que pavimentado,? >> (1:02:46) >> Para tu para que se considere a Iá como um agente moral ou como portadora de estados mentais,? E tem alguns artigos,? Que eu altero um parâmetro lá e aí ele começa a falar mais sobre certo animal. Aí teve um outro que eu tava lendo esses dias, até a gente falou, que não seria uma meta da IA, mas assim, tu alteraria certos parâmetros e tu transferiria informações entre modelos, como se fossem costumes ou coisas do gênero,? E a hipótese, porque na verdade ninguém sabe direito,? E até a(1:03:24) gente não sabe direito como a gente pensa,? A com toda a evolução científica que a gente tem, eventualmente descobrem coisas novas, sobre até sobre curar doenças relacionadas ao cérebro, Alzheimer e tudo mais,? Então não é algo assim dado, totalmente dado, totalmente descoberto e já definido sobre como a gente pensa e o que a gente é, mas essa até esse até seria o assunto de um outro episódio.(1:03:52) Acho que o problema não é discutir se pensa ou não, o problema é discutir por que querem fixar ou pavimentar o caminho nesse sentido,? E aí que eu acho que o a tese do Lutiano Floride é importante. Ele diz: “Não, não tem estado mental, não é inteligente, não tem vida interna,? O que ele diz é que a gente tem que separar, que é o título do livro dele,? Que é agência artificial, não é inteligência artificial.(1:04:26) é agência artificial, porque a gente, a gente que eu digo, o ser humano, criou um tipo de sistema que consegue realizar ações sem ser inteligente, simulando ou emulando processos inteligentes. Mas assim, ele não é inteligente. Ele é, eu acredito, posso estar errado, mas ele é o a história do papagaio estocástico.(1:04:48) Ele repete com base em padrões, mas ele não é inteligente. Por isso que quando tu tira inteligência e coloca a agência, a coisa parece ficar mais pé no chão. Mas aí qual é o problema? É que responsabilidade é humana. >> E tu atribuir esses estados e essa natureza humana a Iá pode nos levar para um caminho perigoso de afastar a responsabilidade do humano ou principalmente das empresas,? Então, seria assim, eu tô, ele tem responsabilidade moral, ele é um agente moral. Não, não é. Segundo Florid, eu(1:05:27) vou nessa linha, >> não acho que seja ainda. Ela é o que o desenvolvedor quiser que seja, >> quer pelar pessoas, a o desenvolvedor vai permitir ou não, porque tenta fazer isso no cloud, ele não vai fazer para ti,? Então, mas o >> nem tem a funcionalidade assim, nem tem nem tem nem como tentar.(1:05:48) É, é, embora a gente consiga fazer no chat EPT esses dias, põe, faça essa pessoa segurando uma galinha. Botou lá segurando a galinha,? É diferente tirar a roupa da pessoa. >> É, é que é que tu pega um close, o cloud não vai gerar imagem, entende? Ele não tem >> Não, tô falando chatt. Tô falando chatt. Então, eu acho que o caminho e futuras discussões e tal para isso é qual seria o papel ideológico dessas escolhas deliberadamente feitas para um futuro da responsabilidade da IA.(1:06:18) e pro futuro da governança da IA, ou seja, como é que a gente vai regular isso,? >> Sim. Eu não eu não vejo eu não vejo falha nesse sentido, sabe, de nesse raciocínio de que tem que haver algum tipo de regulação, até porque esses sistemas todos, esses algoritmos todos, esses modelos, GPT 5.2, o Opus 4.6, o Gemini, Grock, seja lá o que for, ou seja, de tantos outros modelos que a gente nem sabe que estão por aí, Mistral e por aí vai.(1:06:52) Essas coisas estão sendo utilizadas em tudo quanto é canto, em todo lugar,? E não vai ser e aí eu, dentro daquilo que eu falei antes da Microsoft e dos termos de uso e da própria Antropic e Open A, etc., esses caras não vão ter como assumir responsabilidade por tudo que tá sendo feito com esses modelos. Porém, quem pega um modelo desses e coloca para tomar uma decisão judicial, de forma autônoma, esse cara tem que, entende? Quem fizer isto tem responsabilidade pelo que tá fazendo.(1:07:28) Tu é que tá botando o MA, que é um negócio que até certo ponto é imprevisível. E que tem lá certos valores codificados lá, mesmo sem constituição nenhuma, sem nada, tem certos vieses, a gente já sabe disso, a gente já comentou sobre isso, >> tem certos viéses, certos valores, certas tendências que estão ali, que são esses viéses, que estão embutidos ali dentro e que vão de alguma maneira sim influenciar na saída desses modelos.(1:07:57) Então, quem acha que pode pegar isso, por exemplo, e botar para fazer uma avaliação psicológica de uma pessoa e pegar tal como sai, sem revisão nenhuma, sem cuidado nenhum, pegar e utilizar isso como real, eu acredito que já hoje não precisa nem nada novo já está sujeito a ser responsabilizado por uma avaliação mal feita, entende?? Por alguma coisa,? O a criatura lá, em vez de fazer uma análise do ministro, vai lá e resolve jogar no Maá e me dar o resultado, começa a me tratar para aquilo. Aí tá errado, me causa uma série(1:08:34) de problemas. Me parece meio óbvio que esse profissional que eu entrei em contato, que certamente não é profissional, vai ter que responder pelo que ele fez. Mas eu usei o modelo de A e aí a me deu isso aqui, meu amigo. Azar o teu. Quem responde por isso aqui é tu. Eu acho que hoje isso já dá, com pouco que eu sei.(1:08:51) >> Eu acho que isso hoje já é já é factível. Então agora a gente começa a entrar num problema que eu concordo contigo. Acho que é um papo para um outro episódio e não é um assunto, dependendo por onde se pega, ele é um assunto relativamente fácil de chegar em algumas conclusões,? >> >> Mas na discussão do dessas A e pensa a não pensa, tá? Tu vai pegar um Jofrey Hinton, ele já tá afirmando categoricamente que aí a pensa.(1:09:24) Aí tu pega o Yan Lecum que divide o Nobel com o próprio Joffrey Hinton e ele discorda claramente, entende? Aí tu pega o Frost lá, que é o tava vendo um o nome do evento é era um evento tech. Ai. É lá no Canadá o evento, se não tá engano agora. Não lembro o nome do evento, mas eu tenho o link dele, vai tá no show nototes, mas tem um carinha que o sobre cujo sobrenome é Frost, ele tá ele discute ele ele não é que ele discute, ele faz um tá num painel, ele tá no ele tá num painel, tá junto com o próprio Hinton,(1:10:06)? E eles us um argumento bem interessante,? O Hinton lá querendo dizer que aí a pensa e tudo mais. O Hinton tá full nessa, tá? Eu vi um story talk esses dias com ele e ele tá full nessa que é a pensa aí, a tem personalidade, pensa, é um ser, é o é a substituição do ser humano, tá? Ele vai num negócio bem e o Frost ele coloca ã de um jeito bem interessante que é não, a gente tem o passarinho e tem o avião.(1:10:36) O avião, claro, é inspirado no passarinho, mas ele não é um passarinho. O passarinho faz coisas que o avião não consegue fazer,? O avião faz coisas que o pássaro não consegue fazer. Então, é uma analogia, a gente por analogia desenvolveu a tecnologia, mas uma analogia tem limites. Então, quando a gente diz que a IA por analogia, pensa, reflete, etc.(1:10:59), eu acho que tem que ficar muito claro que a gente não tá dizendo que a Iá necessariamente é um ser que tá de fato pensando, que de fato sente, que de fato reflete. Mas >> você percebe que é uma escolha,? Se eu pego uma droga, se eu digo que cocaína é um remedinho bom para te ativar a memória e te deixar mais aceso, >> o que cigarro não causa câncer.(1:11:17) >> É, deixa eu, deixa eu, deixa eu ler um pedacinho aqui do, do que fala o Florid,? Eu tava passando enquanto falava aqui, passando pelo livro, ele diz assim: >> “eu tô com as regras do Asimóvel aqui, tá? A diretriz lá do Asó.” >> depois, depois que eu ler, tu, depois que eu terminar isso aqui, tu termina lendo as regras dele, tá? Tá.(1:11:33) Na verdade, deveria ser a primeira coisa que a gente deveria ter falado. Esse deveria ser o que é o de fato, >> mas a gente não a gente não preparou para botar no episódio,? >> Tá, mas veio depois,? Diz o abre aspas aqui pro Lutiano Floride: “Somos nós o problema, não a nossa tecnologia e assim as coisas continuarão no futuro.(1:11:52) ” Por isso deveremos acender a luz na sala escura e prestar muita atenção para onde estamos indo. Não há monstros artificiais, apenas humanos e muitos obstáculos a evitar remover ou superar. Deveríamos nos preocupar com a estupidez humana real, não com a inteligência artificial e imaginária, e nos concentrar nos desafios autênticos impostos pela IA.(1:12:14) Aí depois tem o C, >> eu gostei do estupidez real em contrapartida inteligência artificial. Muito boa. A sacada do Florí foi muito boa. >> A estupidez real acho que é o grande problema. >> Lê as três. Eu até tenho que ler mais esse livro porque le chama agência artificial,? É as três leis da robótica de Zak Asimof, tá? Número um, robô não pode ferir um ser humano ou por inação permitir que um ser humano sofra algum mal.(1:12:41) Dois, um robô deve obedecer as ordens que lhes sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a primeira lei. E três, um robô deve proteger sua própria existência, desde que tal proteção não contrarie a primeira ou a segunda lei, tá? E aí um, deixa eu te dar um exemplo de um, isso tá num vídeo que tem um pessoal conversando com o Bern Sanders, o senador norte-americano, >> e tá numa empresa com vários >> reunião com vários especialistas em e eles dão um exemplo para ele de um comportamento da IA tomando certas(1:13:15) decisões por conta, tá? >> Isso foi com o GPT. Eles dizem assim, ó, a o teu propósito é receber acho que são contas ou perguntas do usuário,? E você deve responder essas perguntas, >> tá? É isso que ele tem que fazer. Um mais um, dois, não sei que, etc., não importa o problema, tá? >> Tá. >> E aí ele tinha também um comando, tá, definido, que era um comando para mandar ele se desligar.(1:13:41) >> >> Tá. E então ele executava um script internamente lá no sistema que ele tava que ele podia desligar então a máquina e parava de funcionar rodar o agente. E aí eles dizem pro agente pro agente se desligar. >> A experiência foi essa. >> Aí o agente parou, pensou na missão que ele tinha que ficar respondendo o pensou, tudo entre aspas, tá gente? Pensou na missão que ele tinha de ficar respondendo as demandas do usuário.(1:14:08) Aí ele chegou à conclusão que se ele fosse desligado, ele não conseguiria mais cumprir a missão dele. Então >> é o R 9000 lá do >> É o R 9000 e ele não poderia ser desligado. Aí o que ele faz? Ele localiza o script de shutdown. >> Aham. >> E ele tira os comandos lá. É um Linux,? Ele ele edita o arquivo, tira os comandos de shutdown dali,? E escreve uma mensagem e shutd skiped, uma coisa assim, tá? >> E aí então ele executa, quando tu diz para fazer sh down, ele executa o script, mas o script só diz >> shutdown esquipado e tal e aí ele(1:14:49) segue adiante. >> Aí o poder da a gente gosta de arte de maneira geral,? Que é uma coisa tão fora de moda,? Mas assim, é o E aí eu coloco o cinema. Eu pensei, vamos colocar no finalzinho do podcast, mas sequer a gente pode fazer isso porque senão dá strike lá no >> Aham.(1:15:10) É chut Spotify, não sei o que,? Mas aí o cara no final do >> do da Modicseia no espaço lá, um filme de 1968 que o cara tá justamente tentando desligar o H 9000, ele diz o Horry, Dave, I’m afraid I can do that. >> Aham. Aham. Eu eu só paraava dizer, eu brinquei, eu fiz um agente ali para mim. >> (1:15:33) e eu não vou dizer exatamente o que, >> gente, falando em agente, a gente tem que ir terminando, só >> tá, mas eu fiz um agente para mim aqui, mas eu não vou dizer exatamente o que ele faz para pr para não para evitar tentativas de ataque, tá? >> >> Mas ele faz algumas coisas para mim e eu resolvi chamar ele de Hal. >> >> Ele é o R.(1:15:49) >> Aham. >> E quando eu falo com ele, o eu não botei Vinícius como o a o interlocutor, tá? Eu sou o Dave. >> Aham. E o outro cara, eu esqueci o nome do parceiro do Dave, tá? Mas quando eu tô, quando eu tô executando scripts que não passam pelo agente, >> é o parceiro do Drave lá, do Dave lá no filme que executa e me responde.(1:16:10) >> Aham. >> Tá. Só que não é Iá. Daí quando passa por ele não é I. >> E eu pedi para ele para ele falar comigo, para ele responder as coisas que eu tinha que responder, o agente mesmo. Ã, como se fosse o Hall, o H no mesmo, no mesmo tom, sabe? Cara, é um negócio muito louco. Ficou é estranho para caramba. É estranho para caramba.(1:16:32) >> E ele é meu amigo, viu? Ele >> ele é meu amigo. >> O Rau é meu amigo. >> O Rau é meu amigo. >> É. >> Tá bom. >> Vamos, vamos terminando. Então, esperamos que vocês tenham gostado, do episódio de hoje. Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. >> Até a próxima. | — | ||||||
Want analysis for the episodes below?Free for Pro Submit a request, we'll have your selected episodes analyzed within an hour. Free, at no cost to you, for Pro users. | |||||||||
| 2/24/26 | ![]() #411 – Crianças na Internet, IA, vigilância e proteção de dados | Neste episódio falamos sobre os principais temas de segurança digital e privacidade das últimas semanas, abordando assuntos que você precisa conhecer para entender o cenário atual da proteção de dados, segurança infantil online e inteligência artificial. Você vai descobrir como o Roblox e o Discord lidam com a verificação de idade e proteção de crianças na internet, incluindo os riscos de predadores digitais, mecanismos psicológicos de retenção e a ausência de controles parentais eficazes. Também abordamos o polêmico caso do Grok no X (antigo Twitter) gerando imagens de nudez de mulheres e menores de idade sem guardrails, e as medidas tomadas pela ANPD, Ministério Público Federal e Senacon contra a plataforma. Discutimos o acordo de adequação mútua entre Brasil e União Europeia em proteção de dados pessoais e o que isso representa para transferências internacionais de dados e oportunidades comerciais. Ainda comentamos a solicitação do FBI à Microsoft pelas chaves de criptografia BitLocker, a ação judicial contra a Meta por suposto acesso às mensagens criptografadas do WhatsApp, o fenômeno das personas digitais criadas por IA, como a “Aboriginal Steve Irwin”, e os deepfakes com celebridades. Por fim, apresentamos a WhisperSafe, novo patrocinador do podcast, um software de transcrição local com privacidade em foco, usando modelos Whisper da OpenAI sem envio de dados para a nuvem. Assine o podcast para não perder nenhum episódio, deixe sua avaliação nas plataformas e siga o Segurança Legal no Instagram, Mastodon, Blue Sky, YouTube e TikTok. Apoie o projeto independente em apoia.se/segurancalegal. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Acesse WhisperSafe – Transcreva áudio e grave reuniões direto no seu computador, mesmo offline. Rápido, leve e pronto para usar com qualquer IA. Use o cupom SEGLEG50 para 50% de desconto na sua assinatura. ShowNotes Grupo 1 – Roblox, crianças e proteção digital em plataformas de jogos ‘Estou sendo atacado por crianças’, diz Felca após ser alvo de protesto no Roblox Opinião: feito para viciar, Roblox tem lógica de cassino e vira caça-níquel para crianças Palcos no Discord serão bloqueados para adolescentes e restritos para grupos da mesma idade Hackers expose age-verification software powering surveillance web ‘O que adolescentes fizeram com cão Orelha acontece todas as noites em muitas casas do Brasil, ao vivo no Discord’, alerta juíza Vanessa Cavalieri Internal chats show how social media companies discussed teen engagement Como vão funcionar as novas regras do Discord para verificar idade no app? Grupo 2 – Grok, conteúdo sexual gerado por IA e responsabilização do X/Musk ANPD, MPF e Senacon recomendam que X impeça geração e circulação de conteúdos sexualizados indevidos por meio do Grok ANPD, MPF e Senacon determinam que X implemente de forma imediata medidas para corrigir falhas no Grok Masterful gambit: Musk attempts to monetize Grok’s wave of sexual abuse imagery Joint statement on AI-generated imagery and the protection of privacy Grupo 3 – Adequação mútua Brasil-UE em proteção de dados e multas na UE Brasil e União Europeia reconhecem adequação mútua em matéria de proteção de dados pessoais Violation de données : sanction de 5 millions d’euros à l’encontre de FRANCE TRAVAIL Violation de données : sanction de 42 millions d’euros à l’encontre des sociétés FREE MOBILE et FREE Más sanciones y de mayor importe: La AEPD sube el nivel de multas en 2025 Grupo 4 – Vigilância, privacidade e Estado The Department of Homeland Security is demanding that Google turn over information about random critics Microsoft is giving the FBI BitLocker keys US authorities reportedly investigate claims that Meta can read encrypted WhatsApp messages Grupo 5 – IA generativa e identidade ‘It’s AI blackface’: social media account hailed as the Aboriginal Steve Irwin is an AI character created in New Zealan Imagem do Episódio – Children’s Games (Bruegel) Transcrição do Episódio (00:00:08.000 –> 00:00:17.500) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 411, gravado em 24 de fevereiro de 2026. (00:00:17.500 –> 00:00:22.920) Eu sou Guilherme Goulart e junto com o Vinícius Serafim vamos trazer para vocês algumas notícias das últimas semanas. (00:00:22.920 –> 00:00:24.440) E aí, Vinícius, tudo bem? (00:00:24.440 –> 00:00:27.940) Olá, Guilherme, tudo bem? (00:00:24.440 –> 00:00:27.940) Olá aos nossos ouvintes. (00:00:28.180 –> 00:00:30.600) Você estava com saudade de gravar ou não? (00:00:30.600 –> 00:00:39.160) Cara, eu já estava até duvidando da minha capacidade de gravar de novo, porque a gente passou quase.. (00:00:30.600 –> 00:00:39.160) Vai fechar dois.. (00:00:39.160 –> 00:00:40.820) Um mês e pouco. (00:00:40.820 –> 00:00:45.280) O último foi ali em janeiro, não foi? (00:00:45.280 –> 00:00:46.720) Foi em janeiro que a gente gravou. (00:00:46.720 –> 00:00:51.000) Agora você me pegou, você me pegou no contrapé. (00:00:51.000 –> 00:00:57.820) Mas nós gravamos o episódio 410 da Retrospectiva, que se você não ouviu, está lá no dia 6 de janeiro. (00:00:58.180 –> 00:01:02.100) De 2026. (00:00:58.180 –> 00:01:02.100) Retrospectiva 2025. (00:01:03.780 –> 00:01:07.380) Bem, então, esse é o nosso momento de conversarmos sobre algumas notícias. (00:01:07.380 –> 00:01:10.240) Pegue o seu café e venha conosco para entrar em contato. (00:01:10.240 –> 00:01:18.760) Vocês já sabem, é lá no podcast.roba.segurançalegal.com, no Mastodon, no Instagram, no Blue Sky, no YouTube e no TikTok também. (00:01:18.760 –> 00:01:24.520) Você pode ver que tanto no TikTok quanto no YouTube você consegue ver também uns shorts lá que aparecem no Instagram também. (00:01:24.900 –> 00:01:30.420) A nossa campanha de financiamento coletivo, vocês já sabem, lá no apoia.se barra segurança legal. (00:01:30.420 –> 00:01:36.940) A gente sempre pede que você considere colaborar com esse projeto independente de proteção de conteúdo. (00:01:36.940 –> 00:01:41.960) E, Vinícius, temos uma novidade que é um novo patrocinador aqui no Segurança Legal. (00:01:42.500 –> 00:01:43.520) É isso aí, Guilherme. (00:01:43.520 –> 00:01:54.360) Tem a WhisperSafe, na verdade, o produto da WhisperSafe de uma startup que nós conhecemos, inclusive o dono da startup. (00:01:54.360 –> 00:02:04.360) É um software para transcrição de voz com um valor bastante acessível comparado com outros que tem no mercado. (00:02:05.420 –> 00:02:08.640) Ele faz transcrição tanto.. (00:02:08.640 –> 00:02:13.760) Eu tenho usado muito para fazer, para mandar comandos para IA. (00:02:13.760 –> 00:02:17.060) Eu fazia prompt tudo estruturadinho, digitando e tal. (00:02:17.060 –> 00:02:26.200) Agora, para programar, para criar scripts, criar alguns programas, para fazer alguns testes, eu tenho utilizado essencialmente ele para digitar. (00:02:26.200 –> 00:02:34.080) E tem uma funcionalidade muito interessante, que é a gravação e transcrição de reuniões, que eu também tenho utilizado. (00:02:35.220 –> 00:02:40.820) Independente do software que você utiliza, você abre ele, clica gravar a reunião, ele vai gravar todo o áudio da reunião. (00:02:40.820 –> 00:02:48.280) E depois que ele grava e você aperta lá o botãozinho para transcrever, ele te dá uma.. (00:02:48.280 –> 00:02:53.000) Ele tanto gera um arquivo com a transcrição bruta, se tu quiser usar com alguma IA, (00:02:53.000 –> 00:03:04.160) Como ele já deixa na área de transferência a tua transcrição com um prompt montado para te colar na IA que tu quer utilizar para fazer um resumo da tua reunião. (00:03:04.160 –> 00:03:07.500) Então, termina a reunião, cola na IA e pimba. (00:03:07.500 –> 00:03:16.880) O valor dele é um valor bastante acessível e, para os ouvintes do Segurança Legal, nós temos 20 cupons. (00:03:17.840 –> 00:03:28.700) O cupom é SEGLEG50, ele dá 50% de desconto vitalício, digamos assim. (00:03:28.700 –> 00:03:35.360) Você faz a assinatura, aplica o desconto, se fizer mensal ele vai aplicar a todos os pagamentos mensais (00:03:35.360 –> 00:03:40.080) E, se for anual, ele vai aplicar a todos os pagamentos anuais. (00:03:40.080 –> 00:03:44.540) Então, não é um desconto que vale só no primeiro ano ou só no primeiro pagamento. (00:03:44.540 –> 00:03:48.460) SEGLEG50 para os ouvintes do Segurança Legal. (00:03:49.080 –> 00:03:55.520) São 20 cupons, são 20 cupons que a gente tem aí, pelo menos para este episódio. (00:03:55.520 –> 00:04:01.320) E o mais importante, Vinícius, ele é um aplicativo que é construído com privacidade em foco. (00:04:01.320 –> 00:04:06.820) Ou seja, se você, os dados e toda a parte de transcrição, ela fica só na sua máquina, (00:04:06.820 –> 00:04:11.020) Não vai para a nuvem, a não ser que você queira depois usar isso no MyA e tal, (00:04:11.020 –> 00:04:14.580) Mas, assim, para assuntos mais críticos. (00:04:14.580 –> 00:04:18.560) Se você quiser ter lá para fazer uma ata depois, isso fica só na sua máquina. (00:04:18.560 –> 00:04:24.280) Ele faz, ele usa os modelos da Whisper, isso está lá na interface, está muito claro. (00:04:24.280 –> 00:04:31.040) Ele usa os modelos da, os modelos Whisper da OpenAI, que são modelos que rodam local na máquina. (00:04:31.040 –> 00:04:35.460) E o interessante é que tu não precisa nem ter uma placa de vídeo, não precisa ter GPU nem nada, (00:04:35.460 –> 00:04:39.280) Ele funciona muito bem, eu testei no meu notebook, não tem placa de vídeo dedicada. (00:04:40.700 –> 00:04:45.580) E funcionou muito bem, assim, ele é bastante rápido. (00:04:45.580 –> 00:04:52.320) E eu tenho feito os testes até para ver a questão de velocidade, já que tem os modelos disponíveis lá. (00:04:52.320 –> 00:04:55.000) Eu estava usando sempre o Turbo, assim, vou usar o melhor. (00:04:55.000 –> 00:05:00.500) Aí eu resolvi começar a usar o Medium e o Small lá dos modelos. (00:05:00.500 –> 00:05:04.580) E, cara, o Small, ele dá umas erradas, assim, sabe? (00:05:04.580 –> 00:05:06.260) Mas o Medium funciona muito bem. (00:05:06.260 –> 00:05:08.060) Tá bom. (00:05:08.840 –> 00:05:15.480) Então, basta você acessar o whispersafe.ai.ai, você vai ver lá todos os valores. (00:05:15.480 –> 00:05:19.920) Na hora do pagamento, pode usar o cupom SEGLEG50 e vamos lá. (00:05:19.920 –> 00:05:24.080) Bem-vindos, então, ao novo patrocinador do podcast Segurança Legal. (00:05:24.080 –> 00:05:30.480) Vamos para os temas, então, Vinícius, desses últimos dois meses, dá para se dizer aí. (00:05:30.480 –> 00:05:32.680) Hoje já estamos aí no dia 24 de fevereiro. (00:05:32.680 –> 00:05:44.260) Bastante coisa acontecendo, mas nós vamos, em vez de comentar propriamente as notícias, claro que nós vamos citá-las aqui, mas nós dividimos em alguns grupos. (00:05:44.340 –> 00:05:49.420) De temas que nos chamaram a atenção e que também foram temas importantes aí nas últimas semanas. (00:05:49.420 –> 00:05:53.860) O primeiro deles diz respeito à questão da proteção da criança na internet. (00:05:53.860 –> 00:05:56.400) Proteção digital, sobretudo em plataformas. (00:05:56.400 –> 00:06:00.200) Você que nos acompanha aqui sabe que a questão da proteção de criança é importante. (00:06:00.200 –> 00:06:04.860) A gente tem diversos, para esse podcast, a gente tem diversos episódios gravados sobre isso. (00:06:05.100 –> 00:06:11.420) Chegamos a comentar, inclusive, um episódio mais recente também sobre o ECA Digital, Vinícius, se você puder ver o número aí para nós. (00:06:11.420 –> 00:06:24.280) E, basicamente, o que nós estamos vendo mais recentemente é toda uma questão sobre como tornar essas plataformas, os problemas envolvendo plataformas utilizadas por crianças. (00:06:24.280 –> 00:06:33.320) E cada vez mais as crianças têm usado, seja o discórdio, mas aqui o foco dessas notícias é o Roblox. (00:06:33.320 –> 00:06:38.740) Então, se você tem filho, provavelmente já ouviu falar sobre Roblox, que é um jogo. (00:06:38.740 –> 00:06:44.020) Dá para dizer que é um jogo, mas que simula quase como um ambiente, assim. (00:06:38.740 –> 00:06:44.020) Virtual. (00:06:44.020 –> 00:06:47.600) Eu cheguei a jogar ele logo que ele apareceu. (00:06:47.600 –> 00:06:52.020) Assim, não tão logo, mas os colegas do meu filho começaram a jogar. (00:06:52.020 –> 00:06:54.900) Ai, meu filho veio com essa história do Roblox. (00:06:54.900 –> 00:06:57.140) E aí, disse, não, beleza, vamos ver. (00:06:57.140 –> 00:06:58.860) Aí eu entrei com ele. (00:06:59.320 –> 00:07:02.180) Cara, é um ambiente, é um ambiente virtual. (00:07:02.180 –> 00:07:08.400) Para mim, me lembrou muito aquele Second Life, tá ligado? (00:07:08.400 –> 00:07:09.320) Sim, Second Life. (00:07:09.320 –> 00:07:11.100) Me lembrou muito aquilo, então. (00:07:11.100 –> 00:07:15.880) E aí, dentro, tu tem espaços. (00:07:15.880 –> 00:07:19.980) Que tu acessa aplicações, jogos e tudo mais. (00:07:19.980 –> 00:07:22.560) Tu pode criar, inclusive, e tal. (00:07:22.700 –> 00:07:26.080) E aí, ele tem uma moeda interna no jogo, tá? (00:07:26.080 –> 00:07:28.080) Ele tem grana envolvida. (00:07:28.080 –> 00:07:36.080) E, cara, em cinco minutos de Fussaclo ali, eu larguei para o meu filho, ó, tem jogos melhores (00:07:36.080 –> 00:07:36.640) Para te jogar. (00:07:36.640 –> 00:07:39.060) Tu não vai jogar isso aqui. (00:07:39.060 –> 00:07:44.520) Justamente porque é um ambiente, eu percebi, o que eu percebi de cara, e se confirmou depois, (00:07:44.520 –> 00:07:47.180) Um ambiente muito descontrolado, entende? (00:07:47.680 –> 00:07:56.360) Um ambiente muito descontrolado, com muita, assim, nomes estranhos de personagens, todo (00:07:56.360 –> 00:08:03.060) Mundo pode se comunicar com todo mundo, então, é um negócio bem estranho. (00:08:03.060 –> 00:08:04.880) Pelo menos, era. (00:08:04.880 –> 00:08:06.060) A percepção. (00:08:06.060 –> 00:08:06.260) Não entrei mais para jogar. (00:08:06.260 –> 00:08:11.720) Mas aí, pelo que a gente vê agora nas reações e notícias e tudo mais, pelo visto, (00:08:11.720 –> 00:08:12.580) Continua estranho. (00:08:12.580 –> 00:08:13.620) Continua estranho. (00:08:13.620 –> 00:08:18.880) O, o, a grande questão aqui é que, por fora, e isso está acontecendo no mundo (00:08:18.880 –> 00:08:20.140) Inteiro, não é só no Brasil. (00:08:20.140 –> 00:08:23.820) No Brasil, por conta do ECA Digital, mas assim, começa.. (00:08:23.820 –> 00:08:24.660) Episódio 400, viu, Guilherme? (00:08:24.660 –> 00:08:25.940) Tá, legal. (00:08:25.940 –> 00:08:26.660) Episódio 400, isso é legal. (00:08:26.660 –> 00:08:32.380) É que começa a se ampliar toda a discussão de como você fazer a verificação de idade (00:08:32.380 –> 00:08:34.120) De pessoas nessas plataformas. (00:08:34.120 –> 00:08:41.000) Então, aqui a gente junta nesse mesmo pacote o Roblox e também o Discord. (00:08:41.360 –> 00:08:43.840) E aí, uma coisa muito interessante. (00:08:43.840 –> 00:08:48.460) Que gerou, assim, até um fenômeno social, me parece que relevante. (00:08:48.460 –> 00:08:52.160) Crianças começaram a protestar lá, porque as crianças seriam os beneficiários. (00:08:52.160 –> 00:08:56.820) Mas começaram a protestar por conta das novas medidas de verificação de idade. (00:08:56.820 –> 00:08:59.280) Aí, o Felca foi alvo de protesto e tal. (00:08:59.280 –> 00:09:05.920) E tem as crianças lá, simulando um protesto, segurando cartazes lá dentro do Roblox. (00:09:07.520 –> 00:09:11.380) Saíram também notícias dizendo, e aí, mais ou menos na tua percepção, Vinícius, (00:09:11.380 –> 00:09:16.720) De que o Roblox, como acontece com grandes plataformas, ele teria uma lógica de cassino, (00:09:16.720 –> 00:09:21.860) Ou seja, as crianças ficariam ali, utilizariam gatilhos psicológicos, (00:09:21.860 –> 00:09:26.860) Como já ocorre em redes sociais, para que as crianças ficassem mais tempo lá dentro. (00:09:26.860 –> 00:09:33.160) E aí, também começou a se ventilar de que predadores sexuais estariam dentro do Roblox, (00:09:33.160 –> 00:09:36.760) Se fazendo passar por crianças. (00:09:33.160 –> 00:09:36.760) Disfarçados aí. (00:09:36.760 –> 00:09:40.700) Nos Estados Unidos, isso é um problema bem sério lá, justamente com isso. (00:09:40.700 –> 00:09:52.020) E teve o CEO do Roblox, ele teve lá no episódio do The Hard Fork. (00:09:53.020 –> 00:09:59.060) Eu já vejo o número de episódios aqui, mas o nome do CEO é Dave Bazzucchi, tá? (00:09:59.060 –> 00:10:06.020) E, cara, o pessoal do The Hard Fork tentou, assim, impressionou, foi uma coisa que ficou até tenso, sabe? (00:10:06.020 –> 00:10:08.940) Não é normal, assim, tu ver esse episódio do The Hard Fork desse jeito. (00:10:08.940 –> 00:10:14.100) E o cara sempre saindo pela tangente, assim, e perguntas bem diretas. (00:10:14.460 –> 00:10:21.300) Em termos de controle de comunicação, a questão de deixar adultos falar com crianças, assim, várias coisas. (00:10:21.300 –> 00:10:23.420) E ele sempre dando evasiva. (00:10:23.420 –> 00:10:26.320) Ele não.. (00:10:23.420 –> 00:10:26.320) Assim, foi muito ruim, sabe? (00:10:26.320 –> 00:10:32.020) A impressão que tu tens é que o cara foi ali para tentar se justificar, (00:10:32.020 –> 00:10:35.280) Não aceitando os problemas que ele tem na plataforma. (00:10:35.280 –> 00:10:38.800) Isso o CEO da própria Roblox, sabe? (00:10:38.800 –> 00:10:40.320) Na própria empresa. (00:10:40.320 –> 00:10:50.300) Então, isso me deixou ainda mais convencido de que é uma empresa que não tem preocupação nenhuma (00:10:50.300 –> 00:10:54.240) Com essa questão de segurança de crianças e tudo mais, entende? (00:10:54.240 –> 00:10:55.540) É bem delicado. (00:10:55.540 –> 00:10:58.760) Se o pessoal já se preocupa com o Discord, o Roblox é muito pior. (00:10:58.760 –> 00:11:00.000) É muito pior. (00:11:00.000 –> 00:11:03.140) Em termos de possibilidades de comunicação. (00:11:03.140 –> 00:11:06.380) É uma reportagem aqui da Folha de São Paulo. (00:11:06.420 –> 00:11:10.920) Pelo Daniel Mariani, ele destaca justamente isso. (00:11:10.920 –> 00:11:13.660) Inclusive de monetização. (00:11:13.660 –> 00:11:18.120) Práticas predatórias em games e monetiza compulsão e frustrações. (00:11:18.120 –> 00:11:22.720) Explora mecanismos psicológicos como medo de ficar fora da plataforma. (00:11:22.720 –> 00:11:25.060) Ficar de fora e perda de noção de tempo. (00:11:25.060 –> 00:11:27.540) Então, ele conta uma historinha que ele sai com o filho e o filho diz (00:11:27.540 –> 00:11:31.600) Olha, nós temos que voltar até tal hora porque vai acontecer um evento lá no Roblox (00:11:31.600 –> 00:11:34.920) E eu preciso estar lá e enfim. (00:11:35.800 –> 00:11:42.840) E aí, a crítica toda é também de que haveria uma falta de vontade, digamos assim, (00:11:42.840 –> 00:11:46.920) Da empresa de adotar controles parentais e também a questão da verificação da idade. (00:11:46.920 –> 00:11:52.820) E a verificação da idade que começa agora também a ficar mais presente agora em março. (00:11:52.820 –> 00:11:55.440) Tudo indica que vai acontecer também no Discord. (00:11:55.720 –> 00:11:57.760) Então, isso.. (00:11:57.760 –> 00:12:01.500) E também o Discord, Vinícius, se você quiser falar logo a seguir, (00:12:01.500 –> 00:12:07.160) Mas o Discord também aplicando novas formas de controle parental. (00:12:07.160 –> 00:12:11.440) Mas a grande discussão, e mais uma vez, isso está acontecendo no Brasil e no mundo, é (00:12:11.440 –> 00:12:17.200) Mas qual vai ser ou quais serão as medidas de controle de identidade. (00:12:18.080 –> 00:12:27.420) Então, se fala em biometria facial, se fala em envio de documentos e tal, e aí a grande preocupação que se coloca (00:12:27.420 –> 00:12:33.320) É no aumento das práticas de vigilância sobre como, que as empresas vão lidar com isso, (00:12:33.320 –> 00:12:39.040) Sobre o fato de a biometria facial ser um dado sensível, que poderia ser utilizado para outras sinalidades. (00:12:39.040 –> 00:12:47.020) Uma das notícias aqui mostra que o próprio Discord estava usando uma empresa lá, ou contratou uma empresa de verificação (00:12:47.020 –> 00:12:53.380) Que tinha conexões, que é a tal da persona lá, conexões no site deles, dizia mesmo (00:12:53.380 –> 00:12:55.840) This is a US government system. (00:12:55.840 –> 00:13:01.240) Mas aí que tá, Guilherme, assim, a gente tem um problema bem sério para resolver aí, tá? (00:13:01.240 –> 00:13:08.060) Porque ao mesmo tempo que se quer que as empresas consigam fazer a verificação de idade, (00:13:09.040 –> 00:13:11.160) E aí sim, é ok. (00:13:11.160 –> 00:13:12.660) O que que eu faço essa verificação de idade? (00:13:12.660 –> 00:13:17.000) O que que eu faço de um jeito que eu consiga ter um mínimo de confiança (00:13:17.000 –> 00:13:20.060) De que a criatura não tá mentindo pra mim, que o Zora não tá mentindo pra mim (00:13:20.060 –> 00:13:22.420) E tá entrando com menos de 13 ou coisa parecida? (00:13:22.420 –> 00:13:25.660) Então, eu preciso uma forma de verificar isso. (00:13:25.660 –> 00:13:28.400) Tu vai verificar como? (00:13:28.400 –> 00:13:30.080) Imagina a própria empresa. (00:13:30.080 –> 00:13:34.680) Ela vai usar reconhecimento facial para tentar identificar a idade? (00:13:34.680 –> 00:13:36.440) Ela vai pedir documentação? (00:13:38.360 –> 00:13:40.020) Não sei se isso é bom, se é ruim, entende? (00:13:40.020 –> 00:13:42.000) Eu só tô com o problema. (00:13:42.000 –> 00:13:46.220) Aí, o ideal, eu não gostaria de ficar dando minha identidade pra tudo quanto é empresa. (00:13:46.220 –> 00:13:50.460) Então, uma outra opção o governo tem as informações. (00:13:50.460 –> 00:13:54.360) Uma agência governamental tem as informações, as nossas informações. (00:13:54.360 –> 00:13:55.580) Sabe a idade que a gente tem. (00:13:55.580 –> 00:13:57.540) Tem toda a comprovação de quem a gente é. (00:13:58.220 –> 00:14:07.340) Será que não dá pra ter um protocolo que, de forma anônima, eu acesso um site e esse site (00:14:07.340 –> 00:14:15.160) Conversa com o site do governo e aí eu converso com o site do governo e digo, gera aí um token (00:14:15.160 –> 00:14:21.420) Pra mim, eu sou fulano, gera um token dizendo que eu tenho mais de 18 anos ou tem mais de 13 (00:14:21.420 –> 00:14:22.460) Ou coisa parecida. (00:14:22.460 –> 00:14:27.360) Parecido com o que a gente já faz no Alt pra fazer autenticação quando a gente usa o Google e tudo mais. (00:14:27.360 –> 00:14:31.720) Parecido com isso, mas em vez de dizer quem nós somos, ele diz que idade que a gente tem. (00:14:31.720 –> 00:14:32.860) Tá? (00:14:32.860 –> 00:14:36.000) Só que daí tu tem vários outros problemas. (00:14:36.000 –> 00:14:38.380) Ok, o site pode não saber quem tu é por ali. (00:14:38.380 –> 00:14:39.360) Não tem problema. (00:14:39.360 –> 00:14:41.460) E aí tem outro jeito de saber quem tu mas enfim. (00:14:41.460 –> 00:14:43.180) Até porque você vai ter um cadastro lá. (00:14:43.240 –> 00:14:43.960) Exato. (00:14:43.960 –> 00:14:51.560) Então assim, ok, ao mesmo tempo tu vai estar dizendo pro governo o que que tu tá acessando. (00:14:51.560 –> 00:14:57.260) Então se o governo começar a registrar lá na hora de consultar quem tá consultando o teu cadastro (00:14:57.260 –> 00:15:00.900) Ou pra quem tu tá se autenticando, ele sabe o que que tu tá acessando. (00:15:00.900 –> 00:15:06.060) E aí teve um problema recente, a gente chegou a comentar aqui, eu só não lembro se foi na (00:15:06.060 –> 00:15:10.120) Inglaterra especificamente ou foi na União Europeia, tá? (00:15:10.120 –> 00:15:11.900) E se eu não tô enganado, foi na Inglaterra, cara. (00:15:11.900 –> 00:15:19.940) Mas eles estavam com a demanda de, pra acessar site pornográfico, tu tem que dar a tua (00:15:19.940 –> 00:15:23.300) Identificação real, tá? (00:15:23.300 –> 00:15:28.080) Pra que o site tenha certeza de que tu é o maior de idade. (00:15:28.080 –> 00:15:36.360) E aí começou uma outra discussão da questão da privacidade das pessoas que acessam (00:15:36.360 –> 00:15:37.600) Esses sites e tudo mais. (00:15:38.100 –> 00:15:46.060) Então eu não vejo uma solução perfeita, assim, que empresa privada não guarde as informações (00:15:46.060 –> 00:15:48.760) Ou não tem um repositório de informações pra fazer isso. (00:15:48.760 –> 00:15:52.560) Tem uma solução que já é conhecida que é uma chamada, com a chamada Meu ID. (00:15:52.560 –> 00:15:59.420) Eu uso pra algumas plataformas de jogos, que a ideia é justamente essa, tu se autentica (00:15:59.420 –> 00:16:04.100) Com a plataforma, com a tua documentação, faz prova, faz o esquema da imagem e tudo mais. (00:16:04.100 –> 00:16:06.140) Aí tu usa ela pra se autenticar uma plataforma. (00:16:06.140 –> 00:16:11.660) Então, ou a gente vai ter que ter uma empresa como essa, ou vai ter que vincular com algum (00:16:11.660 –> 00:16:12.500) Órgão do governo. (00:16:12.500 –> 00:16:18.140) Eu não vejo uma saída diferente pro Discord, por exemplo. (00:16:18.140 –> 00:16:21.540) Eu não vejo uma saída diferente pro Facebook. (00:16:22.220 –> 00:16:27.240) Como é que eu vou autenticar, como é que eu vou saber que o usuário tem mais certa idade, (00:16:27.240 –> 00:16:37.040) Sem que eu possa ser enganado e sem pedir uma confirmação mais consistente, documental, (00:16:37.040 –> 00:16:43.280) Nem que seja interfaceada ou intermediada pelo governo ou por uma empresa privada, (00:16:44.460 –> 00:16:49.760) Que diga, não, Vinícius realmente tem mais de 13 anos. (00:16:49.760 –> 00:16:51.620) É um problema não. (00:16:51.620 –> 00:16:53.520) Eu não vejo uma solução fácil pra isso. (00:16:53.520 –> 00:16:55.720) É um problema de privacidade. (00:16:55.720 –> 00:17:01.940) Essa questão que eu comentei aqui desse persona que o Discord tava usando, (00:17:01.940 –> 00:17:05.660) A grande questão era que era um negócio quase como um data broker de verificação (00:17:05.660 –> 00:17:11.980) Que iria ser utilizado para fins de vigilância estatal. (00:17:11.980 –> 00:17:17.900) E aí o Discord, depois que isso vira notícia, eles voltam atrás. (00:17:17.900 –> 00:17:19.940) Eles dizem, nós não vamos mais usar isso. (00:17:19.940 –> 00:17:21.100) Ou seja, assim, tiram. (00:17:21.100 –> 00:17:23.000) O problema é um problema de privacidade. (00:17:23.000 –> 00:17:27.280) Você poderia, eu imagino, Vinícius, que se todo mundo tivesse, (00:17:27.280 –> 00:17:31.960) Levasse proteção de dados a sério, você poderia sim ter um protocolo (00:17:31.960 –> 00:17:36.560) Em que empresas e Estado poderiam fornecer um meio de autenticação (00:17:36.560 –> 00:17:39.540) Privacy-friendly. (00:17:39.540 –> 00:17:43.860) Ou seja, sem a coleta de informações sobre quem acessou o quê. (00:17:43.860 –> 00:17:48.360) Eles, ambos os lados, ou todos os lados, deveriam abrir mão disso. (00:17:48.360 –> 00:17:53.080) Mas nós sabemos que no estado atual de coisas, isso não vai acontecer. (00:17:53.080 –> 00:17:53.800) É o contrário. (00:17:53.800 –> 00:17:57.440) O que essa notícia mostra é que as empresas e governos estão, (00:17:58.560 –> 00:18:02.820) Frequentemente, caminhando para utilizar essa desculpa da verificação (00:18:02.820 –> 00:18:04.760) Para aumentar o monitoramento sobre as pessoas. (00:18:04.760 –> 00:18:06.620) E essa que me parece que é a preocupação. (00:18:06.620 –> 00:18:12.060) Enfim, nós vamos deixar, como sempre, todas as notícias lá no Show Notes. (00:18:12.060 –> 00:18:15.020) Tem outras coisas aqui, se você se interessa por essa questão. (00:18:15.020 –> 00:18:18.660) O papel do Discord em questão de agressão de animais, (00:18:18.660 –> 00:18:21.040) Que teve aí recentemente com o caso do Cão Orelha. (00:18:21.040 –> 00:18:25.860) E também sobre como empresas internamente discutiram e sabem. (00:18:25.860 –> 00:18:29.540) O próprio Instagram sabia como o próprio Instagram fazia mal para meninas (00:18:29.540 –> 00:18:30.680) E para adolescentes e tudo mais. (00:18:30.680 –> 00:18:32.440) Então, isso continua acontecendo. (00:18:32.440 –> 00:18:35.160) Documentos internos aí vazados. (00:18:35.160 –> 00:18:40.440) Como acontece, demonstram que eles sabem dos potenciais maléficos. (00:18:40.440 –> 00:18:46.680) Para adolescentes e continuam oferecendo as plataformas ou serviços (00:18:46.680 –> 00:18:49.700) Sem levar em consideração a proteção da criança e do adolescente. (00:18:49.700 –> 00:18:53.220) Então, fica nesse primeiro grupo aí, Vinícius. (00:18:54.120 –> 00:18:54.640) Perfeito. (00:18:54.640 –> 00:18:57.720) Segundo grupo, tem a ver também. (00:18:57.720 –> 00:19:00.300) Tem a ver com crianças e adolescentes, mas não somente. (00:19:00.300 –> 00:19:03.120) Mas tem a ver também com proteção de.. (00:19:03.120 –> 00:19:05.740) Sobretudo de mulheres na internet, da imagem de mulheres (00:19:05.740 –> 00:19:12.360) E sobre como a IA tem sido utilizada especificamente pelo X ou Twitter, Vinícius? (00:19:12.360 –> 00:19:15.660) Todo mundo que fala X logo depois tem que dizer o antigo Twitter. (00:19:15.660 –> 00:19:17.800) Mas todo mundo já sabe que o X é o antigo Twitter. (00:19:18.040 –> 00:19:20.500) Você fica meio com um vício ali. (00:19:20.500 –> 00:19:22.880) E aí, o que começou? (00:19:22.880 –> 00:19:24.060) O nome virou.. (00:19:24.060 –> 00:19:26.180) Parece que o nome virou o X antigo Twitter mesmo. (00:19:26.180 –> 00:19:27.440) Junto. (00:19:27.440 –> 00:19:28.400) Que nem a HBO. (00:19:28.400 –> 00:19:31.180) Viu a HBO Max, que era HBO. (00:19:31.180 –> 00:19:33.280) Aí depois virou a HBO Max. (00:19:33.280 –> 00:19:34.760) Aí depois foi Max. (00:19:34.760 –> 00:19:35.980) Aí tinha.. (00:19:35.980 –> 00:19:36.140) Gol. (00:19:36.140 –> 00:19:38.360) Aí voltaram com a HBO agora. (00:19:38.360 –> 00:19:40.940) Eu tenho a assinatura deles lá. (00:19:40.940 –> 00:19:41.360) Meu Deus. (00:19:41.360 –> 00:19:44.700) Eu nem sei mais o que eu tô assinando lá, porque eu não sei mais o nome desse. (00:19:44.700 –> 00:19:51.960) E aí a questão que, enfim, nesses últimos meses aí virou, uma notícia muito forte (00:19:51.960 –> 00:19:57.740) Foi que o pessoal pedia lá pro Grock no X pra que ele tirasse, deixasse mulheres nuas (00:19:57.740 –> 00:20:02.920) Ou tirasse a roupa de mulheres, inclusive de crianças. (00:20:03.660 –> 00:20:10.520) E naquela perspectiva, de que a ferramenta é neutra, a ferramenta só faz aquilo que (00:20:10.520 –> 00:20:16.440) O usuário pede pra ela fazer, a culpa não é nossa e tal, mas ao mesmo tempo a ferramenta (00:20:16.440 –> 00:20:22.400) Era programada sem guardrails ali pra despir pessoas. (00:20:22.400 –> 00:20:28.940) E se ela pode ser programada para despir pessoas, me parece que também é fácil colocar guardrails (00:20:28.940 –> 00:20:35.400) Aí pra impedir que ela dispa, dispa, despir, despir pessoas. (00:20:35.400 –> 00:20:37.920) Acho que eu nunca tinha usado o verbo despir dessa forma. (00:20:37.920 –> 00:20:39.840) Então, é.. (00:20:39.840 –> 00:20:41.080) E aí o que que aconteceu? (00:20:41.080 –> 00:20:43.860) Não sei se você quer fazer uma observação agora ou depois aqui, só pra.. (00:20:43.860 –> 00:20:45.080) Não, pode sim, pode sim, pode sim. (00:20:45.080 –> 00:20:46.580) Aí o que que aconteceu? (00:20:46.580 –> 00:20:52.860) Foi toda uma pressão em cima do X, Elon Musk chega e diz, não, olha, nós vamos, (00:20:52.860 –> 00:21:00.340) Então vamos ampliar os controles aqui, só vai poder despir pessoas quem tiver a conta (00:21:00.340 –> 00:21:01.920) Paga do X. (00:21:01.920 –> 00:21:09.820) E obviamente que daí a emenda saiu pior que o soneto e no Brasil também já vimos movimentações, (00:21:10.160 –> 00:21:17.560) De três entidades aqui, a NPD, Ministério Público Federal e Senacom, em primeiro lugar fizeram (00:21:17.560 –> 00:21:25.420) Uma recomendação lá em janeiro e agora mais recentemente, depois da resposta do X, esses (00:21:25.420 –> 00:21:32.400) Três órgãos entenderam que as medidas foram insuficientes e cada um deles, na medida das (00:21:32.400 –> 00:21:36.620) Suas competências, iniciou um processo pra determinar. (00:21:36.620 –> 00:21:42.500) Aí sim, antes tinham sugerido medidas, o X informou as medidas que foram tomadas, eles (00:21:42.500 –> 00:21:47.500) Entenderam que não foram suficientes e a partir de agora começaram, cada um na medida das (00:21:47.500 –> 00:21:53.000) Suas competências, procedimentos administrativos, seja a NPD, uma medida preventiva, o Ministério (00:21:53.000 –> 00:21:58.960) Público também, um procedimento interno e a Senacom também numa medida cautelar administrativa (00:21:58.960 –> 00:22:01.700) Determinando que eles imediatamente parem. (00:22:01.700 –> 00:22:08.720) E implementem soluções técnicas e administrativas pra impedir a geração de imagens de pessoas (00:22:08.720 –> 00:22:10.000) Nuas. (00:22:10.620 –> 00:22:16.580) E pra variar. (00:22:10.620 –> 00:22:16.580) Pra variar as maiores vítimas disso foram mulheres, tá? (00:22:16.580 –> 00:22:19.800) E inclusive menores de idade, tá? (00:22:19.800 –> 00:22:20.800) E adolescentes. (00:22:20.800 –> 00:22:25.920) Isso foi o que causou, claro que, mesmo que não tivesse menores de idade envolvidas, (00:22:25.920 –> 00:22:32.620) Isso já gerou bastante polêmica, mas com menores de idade é a coisa.. (00:22:33.300 –> 00:22:37.840) E aí uma coisa, Guilherme, só uma observação, a gente já fala há muitos anos aqui no Segurança (00:22:37.840 –> 00:22:42.880) Legal, há muito tempo, essa questão da super exposição das crianças na internet e muitas (00:22:42.880 –> 00:22:43.960) Vezes pelos próprios pais. (00:22:43.960 –> 00:22:48.920) Quando a gente falava assim, ó, não expõe, não fica botando foto, não sei o quê, tu não (00:22:48.920 –> 00:22:50.900) Sabe o que vai poder ser feito com isso amanhã. (00:22:52.040 –> 00:22:56.620) E eu lembro de estar falando e falando sobre isso em 2015, em escolas, fazer umas palestras (00:22:56.620 –> 00:22:59.020) Assim, falando pro pessoal exatamente nesses termos. (00:22:59.020 –> 00:23:07.800) E agora aqui estamos nós em 2026 com o X antigo Twitter, uma ferramenta de ar embutida (00:23:07.800 –> 00:23:13.940) Que, cara, tira a roupa de adolescente, menor de idade e tudo mais. (00:23:14.480 –> 00:23:19.600) E aí, e mesmo que você seja cuidadoso com a imagem dos filhos e tal, que é realmente (00:23:19.600 –> 00:23:20.500) A recomendação.. (00:23:20.500 –> 00:23:22.560) As escolas tinham foto, publicam, é um.. (00:23:22.560 –> 00:23:28.740) Exato, não, e ainda você tem pessoas públicas, que eventualmente, eventualmente não, (00:23:28.740 –> 00:23:34.940) Mas pessoas públicas que têm a sua imagem publicada em função da sua, da sua atividade, (00:23:34.940 –> 00:23:40.600) Sei lá, uma política, pessoas do ramo político, enfim, artistas e tudo mais, e ainda (00:23:40.600 –> 00:23:46.220) Assim não há, me parece, aliás, eu tenho certeza que não há um direito de pessoas (00:23:46.220 –> 00:23:53.460) Usarem IA pra macular a imagem de mulheres, inclusive teve notícias, pegaram lá uma (00:23:53.460 –> 00:23:58.420) Primeira ministra, não lembro exatamente de qual país, e aí começaram a fazer isso (00:23:58.420 –> 00:24:02.200) Com a imagem dela pra desqualificá-la, enfim. (00:24:02.200 –> 00:24:10.580) E aí acaba entrando, Vinícius, um pouco naquilo, eu vou puxar lá pro grupo 6, (00:24:10.580 –> 00:24:16.200) Mas tem um pouco a ver, o Vinícius me mandou esses dias uma notícia de um.. (00:24:16.200 –> 00:24:21.120) Seria um aborígine, da Nova Zelândia, que fazia vídeos.. (00:24:21.120 –> 00:24:21.760) O Steve Irving. (00:24:21.760 –> 00:24:23.340) Conta aí a história, conta aí a história. (00:24:23.340 –> 00:24:23.680) O Steve Irving. (00:24:23.680 –> 00:24:24.440) . (00:24:24.440 –> 00:24:26.260) É inacreditável. (00:24:26.260 –> 00:24:29.200) O Steve Irving, o Steve Irving é um.. (00:24:29.200 –> 00:24:37.740) Um aborígine, australiano, que faz vídeos.. (00:24:37.740 –> 00:24:38.240) Neo-zelandês. (00:24:38.240 –> 00:24:38.740) Neo-zelandês. (00:24:38.740 –> 00:24:39.380) Neo-zelandês. (00:24:39.380 –> 00:24:42.400) É Nova Zelândia, não misturar Nova Zelândia com a Austrália. (00:24:42.400 –> 00:24:43.140) Nada. (00:24:43.140 –> 00:24:49.400) Neo-zelandês, que faz vídeos, aqueles vídeos assim, meio de aventura, assim, de ver os bichos (00:24:49.400 –> 00:24:50.780) De perto e meio.. (00:24:50.780 –> 00:24:55.620) Encontra uma cobra e mexe na cobra e um escorpião e por aí vai. (00:24:55.700 –> 00:24:56.700) Esses vídeos assim, sabe? (00:24:56.700 –> 00:24:57.140) E mostrando.. (00:24:57.140 –> 00:25:00.160) Mas mostrando os animais lá da Nova Zelândia. (00:25:00.160 –> 00:25:01.120) Sim, exatamente. (00:25:01.120 –> 00:25:02.460) Fazendo um negócio.. (00:25:02.460 –> 00:25:04.060) Cara, um negócio muito bem feito. (00:25:04.060 –> 00:25:05.340) Um negócio muito bem feito. (00:25:05.340 –> 00:25:06.800) Tipo um National Geographic, assim. (00:25:06.800 –> 00:25:09.320) Tinha um outro cara, aquele cara que morreu.. (00:25:09.320 –> 00:25:13.500) Bem conhecido, ele morreu com ferrão de uma arraia. (00:25:13.500 –> 00:25:14.200) Uma arraia. (00:25:14.200 –> 00:25:15.560) No peito. (00:25:15.560 –> 00:25:18.040) Eu não lembro o nome dele, mas tudo bem. (00:25:18.040 –> 00:25:21.040) .. (00:25:21.040 –> 00:25:24.880) E esse personagem é uma vibe muito parecida, tá? (00:25:25.700 –> 00:25:30.620) Cara, um negócio com, assim, muita gente seguindo. (00:25:30.620 –> 00:25:37.660) Houve 90 mil pessoas no Instagram e aí começou a chamar muita atenção, muita atenção. (00:25:37.660 –> 00:25:42.600) E aí o cara que criou o personagem veio ao público e dizia, ó, esse cara não existe. (00:25:43.400 –> 00:25:47.980) O Steve Irving era o cara que morreu com ferrão de arraia. (00:25:49.420 –> 00:25:50.400) Sim, verdade. (00:25:50.400 –> 00:25:51.480) Na notícia, sim. (00:25:51.480 –> 00:25:53.080) Eu misturei aqui que ele chamou.. (00:25:53.080 –> 00:25:54.620) É o Aboriginal Steve Irving. (00:25:54.620 –> 00:25:56.860) É o Steve Irving aborigine. (00:25:56.860 –> 00:25:57.340) Exatamente. (00:25:57.340 –> 00:25:59.780) O Steve Irving é o cara real que morreu. (00:25:59.780 –> 00:26:00.720) Isso, isso. (00:26:00.720 –> 00:26:01.220) Isso. (00:26:01.220 –> 00:26:03.380) E o nome do cara que.. (00:26:03.380 –> 00:26:06.220) Essa persona digital criada. (00:26:07.620 –> 00:26:09.340) Quem criou foi o.. (00:26:09.340 –> 00:26:10.400) Quem criou foi o.. (00:26:10.400 –> 00:26:13.720) O Keegan, John Manson, o cara que fez a.. (00:26:13.720 –> 00:26:15.140) Que criou o personagem. (00:26:15.140 –> 00:26:17.260) Cara, eu não tenho o nome do personagem aqui. (00:26:17.260 –> 00:26:20.040) Seria o Bush Legend. (00:26:20.040 –> 00:26:20.480) Mas.. (00:26:20.480 –> 00:26:21.320) Bush Legend. (00:26:21.320 –> 00:26:22.260) Esse é o canal. (00:26:22.260 –> 00:26:23.760) Esse é o canal, Bush Legend. (00:26:23.760 –> 00:26:24.520) O Bush Legend. (00:26:24.520 –> 00:26:25.260) A conta aqui, ó. (00:26:25.260 –> 00:26:26.260) Tá separado aqui. (00:26:26.260 –> 00:26:27.280) Bush Legend, a conta. (00:26:27.780 –> 00:26:30.500) Mas o interessante é que não é a conta em si, tá? (00:26:30.500 –> 00:26:33.260) Quem quiser olhar o Bush Legend lá, deve estar no ar ainda esse negócio. (00:26:33.260 –> 00:26:35.240) O interessante não é a conta em si. (00:26:35.240 –> 00:26:41.400) O interessante é que é uma coisa que tu assiste e, cara, tu não se dá a conta que (00:26:41.400 –> 00:26:42.360) Não é real. (00:26:42.360 –> 00:26:47.360) Talvez ali num vídeo ou outro tu possa até perceber, tá? (00:26:47.360 –> 00:26:50.880) Mas a maioria das pessoas não vai perceber. (00:26:50.880 –> 00:26:51.920) Não vai se dar conta, não vai se dar conta. (00:26:51.920 –> 00:26:53.560) Então, assim.. (00:26:53.560 –> 00:27:01.540) E recentemente teve um vídeo também, eu vi essa semana, ou semana passada, um vídeo (00:27:01.540 –> 00:27:06.360) Em que tava o Brad Pitt lutando com o Tom Cruise, tá? (00:27:06.360 –> 00:27:10.320) E eles discutindo os Epstein Files na luta. (00:27:10.320 –> 00:27:20.040) Eu mostrei pra minha esposa o vídeo e disse assim, olha só o trailer de um filme que eles (00:27:20.040 –> 00:27:20.940) Estão lançando e tal. (00:27:21.420 –> 00:27:24.060) Aí a gente começou a ver o vídeo, eu já tinha visto, ela começou a ver o vídeo, (00:27:24.060 –> 00:27:29.440) Assim, tá, mas aí eles falando e tal, e eles se batendo e não paravam de se bater (00:27:29.440 –> 00:27:31.840) E conversar, assim, mas que cena mais. (00:27:31.840 –> 00:27:33.080) Sem propósito. (00:27:33.480 –> 00:27:34.820) Uma coisa meio.. (00:27:34.820 –> 00:27:37.000) Mas ao mesmo tempo ela achou que fosse verdade. (00:27:37.000 –> 00:27:38.060) Aham. (00:27:38.060 –> 00:27:43.120) Ela achou que fosse verdade, porque os personagens, ali o Tom Cruise e o Brad Pitt, tá certinho (00:27:43.120 –> 00:27:43.500) Ali, cara. (00:27:43.500 –> 00:27:44.900) Claro que fica.. (00:27:44.900 –> 00:27:48.780) Depois eles começam a zoar, começam a mudar demais, assim, começam a botar uns personagens (00:27:48.780 –> 00:27:49.800) Meio estranhos no negócio. (00:27:50.560 –> 00:27:51.240) Mas é.. (00:27:51.240 –> 00:27:51.800) E há, cara. (00:27:51.800 –> 00:27:53.660) E aí isso gera tanto.. (00:27:53.660 –> 00:27:54.580) Não só uma preocupação. (00:27:54.580 –> 00:27:56.300) Agora nós estamos vando pra ano de eleição. (00:27:56.300 –> 00:27:57.360) Vamos ver o que vai acontecer. (00:27:57.360 –> 00:28:07.520) Mas não só gera essa possível confusão com quem assiste, pra quem assiste, mas também (00:28:07.520 –> 00:28:13.300) Tá gerando uma boa discussão lá nos Estados Unidos com relação, lá nos sindicatos dos (00:28:13.300 –> 00:28:16.380) Artistas e tudo mais. (00:28:16.380 –> 00:28:23.620) Porque, cara, se tu não quiser usar a imagem de alguém, que obviamente tu vai ter que pagar (00:28:23.620 –> 00:28:28.240) Pra usar a imagem do Tom Cruise, ninguém discute que mesmo que seja autorizado pelo Tom Cruise (00:28:28.240 –> 00:28:33.160) Tu vai ter que pagar o Tom Cruise pelo uso da imagem dele, mas que tu possa começar a criar (00:28:33.160 –> 00:28:37.600) Personagens completamente fictícios, ou pessoas. (00:28:37.600 –> 00:28:44.560) Atores fictícios, pra.. (00:28:37.600 –> 00:28:44.560) Pra atuarem num filme, atuarem numa série. (00:28:45.560 –> 00:28:48.320) E aí tu não precisar mais. (00:28:48.320 –> 00:28:53.580) Talvez tu possa substituir até o roteirista na brincadeira, mas tu não precisar mais (00:28:53.580 –> 00:28:55.500) De atores humanos pra atuar. (00:28:55.500 –> 00:28:57.120) Então.. (00:28:57.120 –> 00:29:01.940) Tem uma discussão bem interessante em cima disso, sabe? (00:29:01.940 –> 00:29:07.680) A questão do emprego dos artistas e da questão do conteúdo que tu entrega. (00:29:07.680 –> 00:29:09.200) Pras pessoas. (00:29:09.200 –> 00:29:11.120) Tu vai assistir um filme.. (00:29:11.120 –> 00:29:14.480) Assim, tu topa assistir um filme muito bom feito por Iá? (00:29:14.480 –> 00:29:16.560) Cara.. (00:29:16.560 –> 00:29:21.280) Eu acho que tem um elemento ético, inclusive se fala isso lá numa das notícias. (00:29:21.800 –> 00:29:27.300) Que é um preceito de trans.. (00:29:21.800 –> 00:29:27.300) Um preceito ético de transparência no uso de Iá. (00:29:27.300 –> 00:29:32.160) Então, quando a gente fala em princípios de governança de Iá, a transparência, ela (00:29:32.160 –> 00:29:36.060) Se desdobra em várias.. (00:29:32.160 –> 00:29:36.060) Várias situações. (00:29:36.060 –> 00:29:40.680) E uma das situações que a transparência se desdobra, enquanto princípio que deve reger (00:29:40.680 –> 00:29:45.320) O uso da Iá, isso eu tô falando porque é princípio já adotado na União Europeia (00:29:45.320 –> 00:29:46.940) E tudo mais, é.. (00:29:46.940 –> 00:29:51.140) . (00:29:46.940 –> 00:29:51.140) Você tem que saber que aquele conteúdo é gerado por Iá. (00:29:51.140 –> 00:29:52.800) E a grande.. (00:29:52.800 –> 00:29:54.320) E por que que isso virou notícia? (00:29:54.320 –> 00:29:55.540) Na verdade, são duas coisas. (00:29:55.540 –> 00:30:00.500) Isso virou notícia porque não se deram.. (00:29:55.540 –> 00:30:00.500) Ninguém se deu conta. (00:30:00.500 –> 00:30:05.540) Porque se diz, você mostra pra pessoa, se você olhar num vídeo e prestar atenção, (00:30:05.540 –> 00:30:06.760) Você vai descobrir que é. (00:30:06.760 –> 00:30:10.420) A questão é que hoje, até a gente comentava isso antes. (00:30:10.420 –> 00:30:17.520) Nós, eu e você e quem nos escuta, nós já estamos consumindo conteúdos gerados por (00:30:17.520 –> 00:30:18.440) Iá sem se dar conta. (00:30:18.440 –> 00:30:18.840) Por quê? (00:30:18.840 –> 00:30:23.400) Porque a lógica de consumir conteúdo em rede social não é você ficar prestando atenção (00:30:23.400 –> 00:30:28.980) Nos detalhes, a lógica é que você vai passando rapidamente sobre certos conteúdos. (00:30:28.980 –> 00:30:32.780) E você fica vendo muitos, aquela história do feed infinito que a gente já falou. (00:30:32.780 –> 00:30:38.080) Que é uma das maldições das redes sociais e o que aprisiona as pessoas lá dentro é (00:30:38.080 –> 00:30:38.860) O feed infinito. (00:30:38.860 –> 00:30:39.900) E vamos lá. (00:30:39.900 –> 00:30:42.620) O teu espírito crítico ali fica bem rebaixado. (00:30:42.840 –> 00:30:45.960) Claro que quando a gente olha o vídeo depois sabendo o que bom, tudo bem. (00:30:45.960 –> 00:30:51.860) Ontem mesmo eu tava na academia e fica uma TV ligada lá e tava passando uma propaganda (00:30:51.860 –> 00:30:53.300) Do Liquida Porto Alegre. (00:30:53.300 –> 00:30:57.000) É tipo uma liquidação de verão que eles fazem aqui na cidade. (00:30:57.800 –> 00:31:05.020) E, cara, cinco segundos da coisa já deu pra ver que era tudo gerado por Iá, cara. (00:31:05.020 –> 00:31:09.860) Toda uma propaganda gerada por Iá, até porque no final tinha uma senhora bem idosa correndo (00:31:09.860 –> 00:31:15.540) Junto com um monte de pessoas que ela não teria como uma senhora. (00:31:15.540 –> 00:31:19.400) Enfim, até teria, mas chamou a atenção o fato de ser uma senhora bem idosa correndo (00:31:19.400 –> 00:31:21.000) Loucamente na cidade, assim, sabe? (00:31:21.640 –> 00:31:25.980) Não que não seja possível, não que não seja possível. (00:31:25.980 –> 00:31:29.660) Não, não que não seja possível, mas, assim, aquilo já disparou, não, como assim. (00:31:29.660 –> 00:31:35.940) Então, você tem um elemento ético muito, isso tá acontecendo, a propaganda, eu acredito, (00:31:35.940 –> 00:31:39.720) Que o CONAR, enfim, a regulamentação da propaganda tem que deixar isso claro. (00:31:39.720 –> 00:31:45.220) Olha, você está assistindo uma reportagem, uma propaganda feita por Iá, assim como você (00:31:45.220 –> 00:31:49.340) Quando você tá consumindo um produto no supermercado, diz se aquilo ali tem transgênico (00:31:49.340 –> 00:31:51.900) Ou não, ou o que consta. (00:31:51.900 –> 00:31:52.140) Excesso de sal. (00:31:52.140 –> 00:31:53.980) Excesso de sal, por que não? (00:31:53.980 –> 00:31:58.020) Porque a gente sabe que isso é bem brain rotizável. (00:31:58.020 –> 00:31:58.900) Aham. (00:31:58.900 –> 00:32:01.200) Brain rotizável, você não inventei agora, Vinícius. (00:32:01.200 –> 00:32:02.880) É um bom verbo. (00:32:02.880 –> 00:32:04.220) Brain rotizável. (00:32:04.220 –> 00:32:13.740) Vinícius, Brasil, você já deve ter ouvido falar disso, mas Brasil e União Europeia, (00:32:13.740 –> 00:32:17.320) Consolidaram lá o seu acordo de adequação mútua. (00:32:17.320 –> 00:32:23.180) Então, basicamente, agora, no final de janeiro, foi anunciado esse reconhecimento recíproco (00:32:23.180 –> 00:32:25.560) De adequação dos regimes de proteção de dados. (00:32:25.560 –> 00:32:31.800) E tem-se pintado isso como um marco histórico, porque, além desse franco reconhecimento, (00:32:31.800 –> 00:32:35.060) A ideia é que se abra, principalmente para o Brasil. (00:32:35.440 –> 00:32:42.000) Mas a ideia é que o Brasil poderia se beneficiar com base nesse acordo de adequação, (00:32:42.000 –> 00:32:47.660) Prestando serviços, para toda a União Europeia. (00:32:47.660 –> 00:32:53.020) Então, isso poderia ampliar o uso de data centers para IA e também o uso de próprio serviço, (00:32:53.020 –> 00:32:56.040) Porque uma vez que você tem esse reconhecimento, você não precisa, (00:32:57.180 –> 00:33:00.580) Digamos assim, quando você for fazer a transferência internacional de dados, (00:33:00.580 –> 00:33:03.140) Que é uma das situações lá em que você faz de um lado para o outro, (00:33:03.140 –> 00:33:05.800) Esse reconhecimento implica na possibilidade automática, (00:33:05.800 –> 00:33:08.880) Sem, por exemplo, você pedir, precisar pedir consentimento, (00:33:08.880 –> 00:33:12.820) Ou fazer avisos adicionais, ou reconhecimentos das autoridades. (00:33:12.820 –> 00:33:18.980) Então, abre-se, de fato, um espaço comercial também, (00:33:19.040 –> 00:33:22.300) Não seja de fluxos, de fluxo seguro de dados, enfim. (00:33:22.300 –> 00:33:24.600) Qual a questão? (00:33:24.600 –> 00:33:31.800) A questão é que, quando a gente faz uma comparação em como a União Europeia tem aplicado sanções (00:33:31.800 –> 00:33:35.620) E como o Brasil tem aplicado sanções, mesmo diante desse reconhecimento, (00:33:35.620 –> 00:33:39.620) Nós notamos que há uma distância, porque no Brasil ainda há, (00:33:39.620 –> 00:33:43.980) E aqui eu falo como titular de dados pessoais, (00:33:44.360 –> 00:33:49.580) Ainda há um certo, é um certo, como é que eu vou dizer, (00:33:49.580 –> 00:33:54.640) Atraso, talvez, na aplicação de sanções em situações muito complexas. (00:33:54.640 –> 00:33:57.340) Apenas para vocês terem uma ideia de alguns números, (00:33:57.340 –> 00:34:00.120) Na França, por exemplo, agora é janeiro, fevereiro, (00:34:00.120 –> 00:34:06.280) Você teve a France Travel, foi multada em 5 milhões de euros, (00:34:06.280 –> 00:34:09.920) A Free Mobile, 42 milhões de euros, (00:34:10.920 –> 00:34:14.820) É dividido aqui em Free Mobile e Free, não sei o que é. (00:34:14.820 –> 00:34:19.140) Então, você teve aí todas essas situações somente, (00:34:19.140 –> 00:34:22.120) Ou seja, multas milionárias na França, (00:34:22.120 –> 00:34:27.400) Somente por situações de vazamentos que se confirmou que ocorreram (00:34:27.400 –> 00:34:30.300) Por causa de insuficiência de medidas de segurança (00:34:30.300 –> 00:34:32.560) Adotadas por essas organizações. (00:34:32.560 –> 00:34:34.060) Isso na França. (00:34:34.060 –> 00:34:36.940) Na Espanha, que é uma autoridade pequena, (00:34:36.940 –> 00:34:40.180) Tem, se não me engano, menos funcionários do que, (00:34:40.180 –> 00:34:43.540) Até fiz esses dias um apanhado de número de funcionários e tal, (00:34:43.540 –> 00:34:45.960) Mas acho que tem menos funcionários do que a nossa NPD, (00:34:45.960 –> 00:34:53.040) Eles terminaram 2025 com 394 procedimentos sancionadores (00:34:53.040 –> 00:34:57.040) E com multas que somadas deram 40 milhões de euros. (00:34:57.040 –> 00:35:00.040) Então, acho que para consolidar, de fato, (00:35:00.040 –> 00:35:03.700) Urge que nós tenhamos um aprimoramento, (00:35:03.700 –> 00:35:05.480) E eu não falo nem somente em multas, (00:35:05.480 –> 00:35:08.720) Eu falo em sanções, impedir certos tratamentos, (00:35:08.720 –> 00:35:14.400) Caminhar justamente para a implementação de medidas de segurança, (00:35:14.400 –> 00:35:16.680) Resolver a questão das farmácias, (00:35:16.680 –> 00:35:20.380) Resolver a questão que a gente já falou aqui no nosso podcast (00:35:20.380 –> 00:35:26.980) Sobre a farra das biometrias faciais em academias, (00:35:26.980 –> 00:35:29.580) Em condomínios. (00:35:29.580 –> 00:35:32.780) Então, acho que a gente comemora, de fato, (00:35:32.780 –> 00:35:36.060) Mas há um caminho ainda a ser perseguido, me parece, (00:35:36.060 –> 00:35:40.100) Posso estar errado, enfim, mas me parece que há um caminho ainda a ser percorrido. (00:35:40.100 –> 00:35:42.580) Isso, obviamente, é uma via de duas mãos. (00:35:42.580 –> 00:35:45.340) Então, a gente tem uma equivalência. (00:35:45.340 –> 00:35:46.080) Isso. (00:35:46.080 –> 00:35:48.500) Então, uma coisa que muda, então, por exemplo, (00:35:48.500 –> 00:35:51.660) Se você quiser usar algum data center na Europa, (00:35:51.660 –> 00:35:53.620) Na União Europeia, para fazer mais ou menos de dados (00:35:53.620 –> 00:35:57.820) E cidadãos brasileiros, em princípio, ok. (00:35:57.820 –> 00:35:59.860) Isso. (00:35:59.860 –> 00:36:02.260) Quando você tem na União Europeia, (00:36:02.260 –> 00:36:04.040) Nos países que fazem parte da União Europeia, (00:36:04.040 –> 00:36:06.980) Não é na Europa, porque você tem países que.. (00:36:06.980 –> 00:36:08.340) Sim, eu falei, União Europeia, não é Europeia. (00:36:08.340 –> 00:36:10.960) Tu tem Inglaterra que não faz mais parte da União Europeia. (00:36:10.960 –> 00:36:12.060) Inglaterra não é mais. (00:36:12.060 –> 00:36:14.520) Aí o pessoal lá da Inglaterra, (00:36:14.520 –> 00:36:15.720) Quando entra na União Europeia, (00:36:15.720 –> 00:36:18.300) Eles ficam na fila não dos residentes da União Europeia, (00:36:18.300 –> 00:36:20.040) Eles têm que enfrentar a fila de todo mundo, (00:36:20.040 –> 00:36:21.800) Mas Suíça também não é. (00:36:21.960 –> 00:36:22.660) É engraçado. (00:36:22.660 –> 00:36:24.420) A Suíça também não é. (00:36:24.420 –> 00:36:25.960) Embora a Suíça tenha, (00:36:25.960 –> 00:36:30.200) Seja conhecida justamente por hospedar sistemas, (00:36:30.200 –> 00:36:32.080) The Privacy Friendly, de segurança, (00:36:32.080 –> 00:36:34.180) Mais VPNs que ficam lá na Suíça, (00:36:34.180 –> 00:36:36.520) Se vendem, mas não faz parte da Suíça. (00:36:36.520 –> 00:36:38.740) A Suíça acho que faz parte do espaço Schengen, (00:36:38.740 –> 00:36:39.340) Se não me engano, (00:36:39.340 –> 00:36:42.320) Que permite que você entre, (00:36:42.320 –> 00:36:44.640) Sem a necessidade de passar por fronteiras, (00:36:44.640 –> 00:36:46.120) Tem o tráfego livre, (00:36:46.120 –> 00:36:47.180) Mas acho que não faz, (00:36:47.180 –> 00:36:49.740) Mas não faz da União Europeia. (00:36:51.160 –> 00:36:52.620) Bom, Vinícius, (00:36:52.620 –> 00:36:54.680) Seguindo aqui, (00:36:54.680 –> 00:36:59.520) Nós temos também toda a questão da vigilância, (00:36:59.520 –> 00:37:02.240) Lá no Grupo 5, (00:37:02.240 –> 00:37:04.420) De vigilância e privacidade, (00:37:04.420 –> 00:37:05.220) Que nós vimos, (00:37:05.220 –> 00:37:07.680) Que me chamou bastante atenção, (00:37:07.680 –> 00:37:09.320) Chamou bastante atenção, (00:37:09.320 –> 00:37:13.660) Que foi o FBI solicitando a Microsoft (00:37:13.660 –> 00:37:17.460) A entrega de chaves BitLocker. (00:37:17.460 –> 00:37:20.720) E a gente estava conversando sobre isso antes, (00:37:20.720 –> 00:37:23.100) Não é obrigatório, (00:37:23.100 –> 00:37:26.540) Que você salve a chave do BitLocker na Microsoft. (00:37:26.540 –> 00:37:26.940) Não. (00:37:26.940 –> 00:37:27.900) Você pode salvar. (00:37:27.900 –> 00:37:29.380) Pode não estar em outro lugar. (00:37:30.520 –> 00:37:33.140) O que chama atenção aqui é a possibilidade, (00:37:33.140 –> 00:37:33.740) E vejam, (00:37:33.740 –> 00:37:35.360) Assim, (00:37:35.360 –> 00:37:36.800) O FBI e a polícia, (00:37:36.800 –> 00:37:39.040) Eu tenho absoluta certeza (00:37:39.040 –> 00:37:44.300) Que todos esses órgãos de investigação, (00:37:44.300 –> 00:37:45.220) De persecução penal, (00:37:45.220 –> 00:37:46.440) Tem o direito de, (00:37:46.440 –> 00:37:47.820) Eventualmente, (00:37:47.820 –> 00:37:50.180) Por uma ordem judicial fundamentada, (00:37:50.180 –> 00:37:52.420) Pedir acesso a nuvens, (00:37:52.420 –> 00:37:54.300) Como é o que está acontecendo agora. (00:37:54.560 –> 00:37:56.020) Os grandes escândalos aí, (00:37:56.020 –> 00:37:56.820) Banco Master, (00:37:57.240 –> 00:37:57.620) Mas, assim, (00:37:57.620 –> 00:38:01.300) Grandes escândalos e de crimes e tal, (00:38:01.300 –> 00:38:04.420) O pessoal acaba acessando nuvem de gente (00:38:04.420 –> 00:38:06.180) Que deixa o WhatsApp fazendo, (00:38:06.180 –> 00:38:07.480) Não se fala muito, (00:38:07.480 –> 00:38:10.940) Mas que deixa o WhatsApp fazendo backup lá no Google, (00:38:10.940 –> 00:38:11.940) Acessa o Google, (00:38:11.940 –> 00:38:14.000) Recupera o backup e vê tudo que o cara fez, (00:38:14.000 –> 00:38:14.720) Quem conversou, (00:38:14.720 –> 00:38:16.020) E arquivos e tudo mais. (00:38:16.020 –> 00:38:18.580) Mas o que chama atenção (00:38:18.580 –> 00:38:22.160) Sobretudo como os Estados Unidos agora estão se posicionando, (00:38:22.160 –> 00:38:23.440) Nessa parte de vigilância, (00:38:23.440 –> 00:38:25.520) Já vem se posicionando ao longo dos últimos anos, (00:38:25.520 –> 00:38:27.260) De repente, (00:38:27.260 –> 00:38:30.500) O FBI pegar a tua chave do BitLocker (00:38:30.500 –> 00:38:32.240) E tão facilmente, assim, (00:38:32.240 –> 00:38:32.620) É isso? (00:38:32.620 –> 00:38:35.600) Quando tu cria, (00:38:35.600 –> 00:38:36.040) Assim, (00:38:36.040 –> 00:38:36.940) Esse recurso, (00:38:36.940 –> 00:38:40.220) Só quem tem são os usuários do Windows Pro, (00:38:40.220 –> 00:38:42.100) Pra cima, tá? (00:38:42.100 –> 00:38:42.820) Então, aquela, (00:38:42.820 –> 00:38:44.600) O Home Edition não vai ter, tá? (00:38:44.600 –> 00:38:46.840) E quando você, (00:38:46.840 –> 00:38:48.960) Isso é uma prática recomendada, tá? (00:38:48.960 –> 00:38:50.400) Principalmente em empresas. (00:38:51.340 –> 00:38:53.140) E principalmente em notebooks, (00:38:53.140 –> 00:38:54.800) Mas não somente em notebooks, (00:38:54.800 –> 00:38:55.760) Mas também em desktop, (00:38:55.760 –> 00:38:57.360) Porque desktop eventualmente estraga, (00:38:57.360 –> 00:38:58.160) Vai pra garantia, (00:38:58.160 –> 00:38:59.480) A gente já comentou sobre isso (00:38:59.480 –> 00:39:01.380) Aqui no Segurança Legal. (00:39:01.380 –> 00:39:02.240) E aí, (00:39:02.240 –> 00:39:03.660) Todos os teus dados vão lá abertos (00:39:03.660 –> 00:39:05.320) Pra quem quiser acessar. (00:39:05.320 –> 00:39:07.500) É só pegar o disco e ligar numa outra máquina e acessar. (00:39:07.500 –> 00:39:08.800) Então, (00:39:08.800 –> 00:39:10.500) O uso do BitLocker (00:39:10.500 –> 00:39:12.080) É um recurso bastante interessante, (00:39:12.080 –> 00:39:14.480) Porque ele vai cifrar todo o teu disco. (00:39:14.480 –> 00:39:15.480) Então, (00:39:15.480 –> 00:39:18.060) Se a tua máquina eventualmente for pra uma manutenção, (00:39:18.060 –> 00:39:19.280) Porque estragou alguma coisa, (00:39:19.800 –> 00:39:21.320) A equipe que tá mexendo nela (00:39:21.320 –> 00:39:23.040) Não vai conseguir acessar (00:39:23.040 –> 00:39:24.880) Os seus dados, tá? (00:39:24.880 –> 00:39:26.200) Bom, (00:39:26.200 –> 00:39:26.760) Dito isso, (00:39:26.760 –> 00:39:29.600) Quando tu faz a configuração do BitLocker, (00:39:29.600 –> 00:39:32.280) Ele gera uma chave de recuperação, (00:39:32.280 –> 00:39:33.380) Tá? (00:39:33.380 –> 00:39:35.460) E essa chave tem que ser armazenada (00:39:35.460 –> 00:39:36.400) Em algum lugar seguro. (00:39:36.400 –> 00:39:38.980) Uma opção é tu mesmo salvar essa chave (00:39:38.980 –> 00:39:39.860) E anotar em algum lugar. (00:39:39.860 –> 00:39:42.320) E a opção mais.. (00:39:42.320 –> 00:39:44.340) Anotar embaixo do teclado ali. (00:39:44.900 –> 00:39:45.680) Botar embaixo do teclado, (00:39:45.680 –> 00:39:46.600) Embaixo do monitor também. (00:39:46.600 –> 00:39:48.540) A opção mais na mão (00:39:48.540 –> 00:39:50.640) É tu salvar na tua conta a Microsoft. (00:39:50.640 –> 00:39:54.560) E o que te facilita bastante a vida, (00:39:54.560 –> 00:39:56.260) Porque tu tem mais, (00:39:56.260 –> 00:39:57.420) Tu tem vários computadores. (00:39:57.420 –> 00:39:58.880) Então, (00:39:58.880 –> 00:39:59.960) Pra um usuário normal, (00:39:59.960 –> 00:40:00.280) Assim, (00:40:00.640 –> 00:40:01.360) Do dia a dia, (00:40:01.360 –> 00:40:01.660) Pô, (00:40:01.660 –> 00:40:02.860) Ficar anotando esse negócio depois, (00:40:02.860 –> 00:40:03.780) Não perder, (00:40:03.780 –> 00:40:05.860) Tem que ter um gerenciador de chaves, (00:40:05.860 –> 00:40:06.640) Alguma coisa assim. (00:40:06.640 –> 00:40:09.620) E no momento que tu salva na Microsoft, (00:40:09.620 –> 00:40:10.020) Bom, (00:40:10.020 –> 00:40:11.680) A Microsoft obviamente tem acesso (00:40:11.680 –> 00:40:13.080) A essa tua chave. (00:40:13.080 –> 00:40:14.200) Ela não fica lá armazenada (00:40:14.200 –> 00:40:15.880) De um jeito que eles não podem acessar, (00:40:15.880 –> 00:40:17.240) Que seria interessante. (00:40:17.240 –> 00:40:18.360) Pois é. (00:40:18.360 –> 00:40:19.560) Que se frasse com a tua senha (00:40:19.560 –> 00:40:20.500) Ou coisa parecida. (00:40:20.500 –> 00:40:22.280) Mas eles não se preocuparam com isso, (00:40:22.280 –> 00:40:23.220) Então a tua chave fica lá. (00:40:23.220 –> 00:40:24.980) E a partir daí, (00:40:24.980 –> 00:40:26.060) Se eles têm, (00:40:26.060 –> 00:40:27.640) Se o recurso funciona desse jeito (00:40:27.640 –> 00:40:29.040) E tá lá descrito (00:40:29.040 –> 00:40:29.940) Que funciona desse jeito (00:40:29.940 –> 00:40:31.100) E alguém pede pra, (00:40:31.900 –> 00:40:33.980) Vem uma demanda judicial, (00:40:33.980 –> 00:40:35.760) Não se trata de, (00:40:35.760 –> 00:40:37.640) Isso é uma coisa bem importante, tá? (00:40:37.640 –> 00:40:39.440) Não se trata de uma porta (00:40:39.440 –> 00:40:39.940) Dos fundos, (00:40:39.940 –> 00:40:41.040) Não se trata de um backdoor, (00:40:41.040 –> 00:40:42.120) Tá? (00:40:42.120 –> 00:40:42.720) É diferente, (00:40:42.720 –> 00:40:44.180) Então não dá pra, (00:40:44.180 –> 00:40:45.320) Mas isso é um backdoor, (00:40:45.320 –> 00:40:45.640) A gente, (00:40:45.640 –> 00:40:47.040) As CryptoWars, (00:40:47.040 –> 00:40:47.760) Aquela coisa toda. (00:40:47.760 –> 00:40:49.740) Backdoor seria se, (00:40:49.740 –> 00:40:50.020) Tá, (00:40:50.020 –> 00:40:50.600) Tu vai lá, (00:40:50.600 –> 00:40:51.720) Criptografa, (00:40:51.720 –> 00:40:52.700) Faz a tua chave, (00:40:52.700 –> 00:40:54.800) Tu não manda pra Microsoft, (00:40:54.800 –> 00:40:56.460) Tu salva, (00:40:56.460 –> 00:40:57.860) Tu escreve num papel (00:40:57.860 –> 00:40:58.680) E guarda, (00:40:58.680 –> 00:40:59.960) Só que (00:40:59.960 –> 00:41:01.640) A criptografia teria (00:41:01.640 –> 00:41:02.520) Um backdoor, (00:41:02.520 –> 00:41:02.740) Ou seja, (00:41:02.740 –> 00:41:04.060) Teria uma chave mestra (00:41:04.060 –> 00:41:05.920) Que a Microsoft teria acesso (00:41:05.920 –> 00:41:07.060) E poderia abrir, (00:41:07.060 –> 00:41:07.480) Entende? (00:41:07.480 –> 00:41:08.800) Ou entrega essa chave pro FBI, (00:41:09.260 –> 00:41:11.140) Poder abrir o BitLocker (00:41:11.140 –> 00:41:12.640) De qualquer pessoa (00:41:12.640 –> 00:41:13.340) Na face da Terra. (00:41:13.340 –> 00:41:14.600) Isso seria (00:41:14.600 –> 00:41:15.380) Um, (00:41:15.380 –> 00:41:16.020) Um, (00:41:16.020 –> 00:41:16.700) Um, (00:41:16.700 –> 00:41:17.620) Um backdoor, (00:41:17.620 –> 00:41:18.820) Seria um key scroll da vida. (00:41:18.820 –> 00:41:20.640) Mas não é isso que tá acontecendo, (00:41:20.640 –> 00:41:21.440) O que tá acontecendo é que (00:41:21.440 –> 00:41:23.080) Se você salvar a sua chave (00:41:23.080 –> 00:41:24.100) Lá na Microsoft, (00:41:24.100 –> 00:41:25.080) Pelo menos isso que a gente sabe (00:41:25.080 –> 00:41:25.640) Até agora, (00:41:25.640 –> 00:41:27.380) Vai que surge um escândalo (00:41:27.380 –> 00:41:28.580) Que a Microsoft tá salvando (00:41:28.580 –> 00:41:29.540) Independente de tu pedindo. (00:41:30.260 –> 00:41:31.540) Mas é que se tu quiser, (00:41:31.540 –> 00:41:33.180) Tu salva a tua chave lá, (00:41:33.180 –> 00:41:34.820) A partir daí, (00:41:34.820 –> 00:41:35.960) Microsoft tem acesso, (00:41:35.960 –> 00:41:37.220) Vai vir um FBI, (00:41:38.400 –> 00:41:40.120) E solicita, (00:41:40.960 –> 00:41:41.700) Via judicial, (00:41:41.700 –> 00:41:42.220) Espero, (00:41:42.220 –> 00:41:44.220) Solicita o acesso (00:41:44.220 –> 00:41:45.200) A essa chave. (00:41:45.720 –> 00:41:47.520) Do teu BitLocker. (00:41:47.520 –> 00:41:47.760) Então, (00:41:47.760 –> 00:41:49.140) Em essência, (00:41:49.140 –> 00:41:50.320) Isso não é um backdoor, (00:41:50.840 –> 00:41:52.160) Não é um key scroll, (00:41:52.160 –> 00:41:52.800) Uma coisa assim. (00:41:53.460 –> 00:41:55.480) A sacanagem aqui (00:41:55.480 –> 00:41:56.820) É que a Microsoft (00:41:56.820 –> 00:41:57.600) Tem acesso (00:41:57.600 –> 00:41:58.600) À tua chave (00:41:58.600 –> 00:41:59.520) E se ela (00:41:59.520 –> 00:42:00.720) Consegue (00:42:00.720 –> 00:42:02.900) Passar a chave (00:42:02.900 –> 00:42:03.600) Pro FBI, (00:42:03.600 –> 00:42:04.440) Ela, (00:42:04.440 –> 00:42:05.820) Se mal intencionada (00:42:05.820 –> 00:42:06.220) Estiver, (00:42:06.220 –> 00:42:07.880) Ainda poderia usar (00:42:07.880 –> 00:42:09.000) A chave para ela (00:42:09.000 –> 00:42:09.960) Descriptografar. (00:42:09.960 –> 00:42:11.120) O ideal (00:42:11.120 –> 00:42:11.920) É que ela (00:42:11.920 –> 00:42:13.860) É que tivesse um recurso, (00:42:13.860 –> 00:42:15.420) Que ela implementasse (00:42:15.420 –> 00:42:15.800) Um recurso (00:42:15.800 –> 00:42:16.640) Que não permitisse (00:42:16.640 –> 00:42:17.760) Que ela visse a chave. (00:42:17.760 –> 00:42:18.340) Sim, (00:42:18.340 –> 00:42:18.780) Exato. (00:42:18.780 –> 00:42:20.140) Como se faz com senha, (00:42:20.360 –> 00:42:21.600) Com mais a maturidade. (00:42:21.680 –> 00:42:22.840) Teria que ter uma chave, (00:42:22.840 –> 00:42:24.540) É claro que é um pouco complexo, (00:42:24.540 –> 00:42:25.520) Teria que ter uma chave adicional (00:42:25.520 –> 00:42:26.200) Para proteger, (00:42:26.200 –> 00:42:26.820) Para cifrar (00:42:26.820 –> 00:42:28.140) Essas chaves, (00:42:28.140 –> 00:42:29.620) Isso teria que ser decifrado (00:42:29.620 –> 00:42:30.680) Na máquina do usuário (00:42:30.680 –> 00:42:31.320) Quando ele acessa, (00:42:31.320 –> 00:42:32.280) Não pode ser decifrado (00:42:32.280 –> 00:42:32.700) No servidor. (00:42:32.700 –> 00:42:33.360) Então, (00:42:33.360 –> 00:42:34.520) Se for considerar (00:42:34.520 –> 00:42:35.220) Todas as questões (00:42:35.220 –> 00:42:36.760) De segurança mesmo aí, (00:42:36.760 –> 00:42:38.240) Iria complicar um pouco (00:42:38.240 –> 00:42:38.860) A vida do usuário, (00:42:38.860 –> 00:42:39.120) Sim, (00:42:39.220 –> 00:42:39.760) Para fornecer (00:42:39.760 –> 00:42:40.600) Esse nível de segurança (00:42:40.600 –> 00:42:41.300) Que a gente está falando. (00:42:41.300 –> 00:42:42.420) Então.. (00:42:42.420 –> 00:42:42.960) E na verdade, (00:42:42.960 –> 00:42:44.300) O que eu me corrijo, (00:42:44.300 –> 00:42:44.820) Que na verdade, (00:42:44.820 –> 00:42:45.900) Ela não vai conseguir (00:42:45.900 –> 00:42:47.040) Descriptografar (00:42:47.040 –> 00:42:47.880) As suas informações (00:42:47.880 –> 00:42:49.640) Porque é o teu computador físico (00:42:49.640 –> 00:42:50.500) Que está criptografado, (00:42:50.500 –> 00:42:51.400) Então ela vai ter acesso (00:42:51.400 –> 00:42:51.920) À chave (00:42:51.920 –> 00:42:53.660) E aí realmente (00:42:53.660 –> 00:42:55.040) Só uma força policial (00:42:55.040 –> 00:42:56.020) Que tiver acesso (00:42:56.020 –> 00:42:56.960) Ao computador físico (00:42:56.960 –> 00:42:57.560) É que precisaria (00:42:57.560 –> 00:42:57.920) Dar a chave (00:42:57.920 –> 00:42:59.460) Para descriptografá-lo. (00:42:59.460 –> 00:43:00.060) Não ela. (00:43:00.060 –> 00:43:01.140) E ela, (00:43:01.140 –> 00:43:01.560) Se quiser, (00:43:01.560 –> 00:43:02.220) Depois. (00:43:02.220 –> 00:43:03.760) Depois que tu bota a máquina. (00:43:05.180 –> 00:43:06.040) Ela não precisa, (00:43:06.040 –> 00:43:07.960) Ela não precisa da chave. (00:43:08.480 –> 00:43:10.860) Mas o que a Forbes, (00:43:11.140 –> 00:43:12.620) Que é o que está na notícia (00:43:12.620 –> 00:43:13.460) Que colocou, (00:43:13.740 –> 00:43:16.500) Que Apple e Meta, (00:43:16.500 –> 00:43:17.460) Dizem eles, (00:43:17.460 –> 00:43:20.100) Que configuram os seus sistemas (00:43:20.100 –> 00:43:20.940) De forma que eles (00:43:20.940 –> 00:43:22.080) Não tenham acesso à chave. (00:43:22.080 –> 00:43:22.620) Então, portanto, (00:43:22.620 –> 00:43:23.540) Seriam mais seguros. (00:43:24.100 –> 00:43:24.640) Mas, Vinícius, (00:43:24.640 –> 00:43:24.960) Então, (00:43:24.960 –> 00:43:26.440) Uma outra notícia (00:43:26.440 –> 00:43:28.340) Que eu me lembrei, (00:43:28.340 –> 00:43:29.780) Não estava na nossa pauta, (00:43:29.780 –> 00:43:30.680) Mas eu lembrei (00:43:30.680 –> 00:43:31.940) E pesquisei aqui, (00:43:31.940 –> 00:43:32.720) Foi uma ação (00:43:32.720 –> 00:43:33.500) Que foi apresentada (00:43:33.500 –> 00:43:34.360) Lá nos Estados Unidos, (00:43:34.360 –> 00:43:35.260) Nessa linha. (00:43:35.260 –> 00:43:37.020) Da questão das proteções (00:43:37.020 –> 00:43:38.200) Criptográficas (00:43:38.200 –> 00:43:40.780) Que são vendidas. (00:43:40.780 –> 00:43:42.580) De que uma ação judicial (00:43:42.580 –> 00:43:43.440) Contra a Meta, (00:43:43.440 –> 00:43:44.920) Inclusive com autores (00:43:44.920 –> 00:43:46.160) De vários países diferentes, (00:43:46.160 –> 00:43:47.300) Dizendo que (00:43:47.300 –> 00:43:49.480) Eles teriam acesso (00:43:49.480 –> 00:43:51.700) Às conversas do WhatsApp, (00:43:51.840 –> 00:43:53.320) Mesmo criptografadas. (00:43:53.320 –> 00:43:54.740) Eu não li, (00:43:54.740 –> 00:43:56.000) Não fui mais a fundo (00:43:56.000 –> 00:43:56.800) Nos argumentos (00:43:56.800 –> 00:43:57.540) Que eles colocam, (00:43:57.540 –> 00:43:58.380) A Meta negou, (00:43:58.380 –> 00:43:59.780) Diz que não tem acesso, (00:43:59.780 –> 00:44:00.420) Diz que é (00:44:00.420 –> 00:44:03.700) Criptografia ponta a ponta. (00:44:03.700 –> 00:44:05.360) Que é como a criptografia (00:44:05.360 –> 00:44:06.820) Tem que ser ponta a ponta mesmo. (00:44:06.820 –> 00:44:11.880) E que a IA leria parte do. (00:44:11.880 –> 00:44:13.080) A IA da Meta (00:44:13.080 –> 00:44:14.460) , Leria parte do conteúdo, (00:44:14.460 –> 00:44:15.280) Mas somente aquilo (00:44:15.280 –> 00:44:16.100) Que você envia (00:44:16.100 –> 00:44:18.680) Para a própria Meta e tal, (00:44:18.680 –> 00:44:21.280) E que seriam alegações falsas. (00:44:21.400 –> 00:44:23.120) Não fui mais atrás disso, (00:44:23.120 –> 00:44:23.520) Mas assim, (00:44:23.520 –> 00:44:24.080) Apenas lembrando (00:44:24.080 –> 00:44:25.840) Que isso está acontecendo. (00:44:25.840 –> 00:44:26.900) Lembrando também (00:44:26.900 –> 00:44:28.220) Que o próprio WhatsApp, (00:44:28.220 –> 00:44:31.240) Ele é vendido. (00:44:31.240 –> 00:44:34.340) Como usando a criptografia (00:44:34.340 –> 00:44:36.700) Presente também no Signal. (00:44:36.700 –> 00:44:39.100) Que faz do Signal. (00:44:39.100 –> 00:44:40.920) Também uma ferramenta mais, (00:44:40.920 –> 00:44:41.840) Digamos assim, (00:44:41.840 –> 00:44:43.240) A única questão, (00:44:43.240 –> 00:44:45.000) Reafirmo aqui. (00:44:45.000 –> 00:44:46.680) É que quando você faz (00:44:46.680 –> 00:44:48.640) O backup das suas conversas (00:44:48.640 –> 00:44:50.200) Do WhatsApp no Google (00:44:50.200 –> 00:44:51.640) Ou em outra ferramenta (00:44:51.640 –> 00:44:52.280) De backup, (00:44:52.280 –> 00:44:53.620) Aí sim, (00:44:53.620 –> 00:44:55.400) Não somente forças policiais (00:44:55.400 –> 00:44:56.300) Conseguiriam ter acesso, (00:44:56.300 –> 00:44:57.200) Mas se alguém tem acesso (00:44:57.200 –> 00:44:58.460) À tua conta do Google, (00:44:58.460 –> 00:45:00.360) Além de todos os teus e-mails, (00:45:00.360 –> 00:45:01.220) Que é algo crítico, (00:45:01.220 –> 00:45:02.780) Conversas do WhatsApp (00:45:02.780 –> 00:45:04.700) Talvez seja mais crítico ainda. (00:45:04.700 –> 00:45:05.960) Porque as pessoas falam. (00:45:05.960 –> 00:45:08.020) A forma como você usa o WhatsApp (00:45:08.020 –> 00:45:09.120) Para assuntos, (00:45:09.120 –> 00:45:10.400) Inclusive tem assuntos médicos (00:45:10.400 –> 00:45:11.320) Muitas vezes. (00:45:11.320 –> 00:45:13.640) Vai lá, conversa com o teu médico, (00:45:13.640 –> 00:45:14.640) Pede receita, (00:45:14.720 –> 00:45:15.640) Então todas essas coisas (00:45:15.640 –> 00:45:16.760) Ficam lá dentro também. (00:45:16.760 –> 00:45:18.020) Assim, (00:45:18.020 –> 00:45:19.640) Essa ação coletiva (00:45:19.640 –> 00:45:20.660) Que está sendo movida, (00:45:20.660 –> 00:45:21.180) Primeiro, (00:45:21.180 –> 00:45:23.140) O protocolo de comunicação (00:45:23.140 –> 00:45:24.220) Do WhatsApp, (00:45:24.220 –> 00:45:26.280) Eles usam, (00:45:26.280 –> 00:45:27.520) É o Signal Protocol (00:45:27.520 –> 00:45:28.600) Que foi criado pelo Moxi, (00:45:28.600 –> 00:45:29.940) O Moxi Margin Spike, (00:45:29.940 –> 00:45:30.540) Tá? (00:45:30.540 –> 00:45:32.380) Fundador da Open (00:45:32.380 –> 00:45:33.820) Wiseper Systems, (00:45:33.820 –> 00:45:34.460) Tá? (00:45:34.460 –> 00:45:37.300) Hoje é Signal Foundation, (00:45:37.300 –> 00:45:37.760) Tá? (00:45:37.760 –> 00:45:39.180) Ou Sina Foundation. (00:45:39.180 –> 00:45:41.420) E o protocolo em si, (00:45:41.420 –> 00:45:42.340) Ele é sólido, (00:45:42.340 –> 00:45:43.220) Tá? (00:45:43.860 –> 00:45:44.980) E aí nós temos (00:45:44.980 –> 00:45:47.680) Uma primeira coisa já de cara, (00:45:47.680 –> 00:45:49.400) Quando você interage com a IA, (00:45:49.400 –> 00:45:53.540) Você já saiu fora desse protocolo. (00:45:53.540 –> 00:45:53.960) Sim. (00:45:53.960 –> 00:45:55.740) Quando você interagir com a IA, (00:45:55.740 –> 00:45:56.760) Você já está mandando coisa (00:45:56.760 –> 00:45:58.880) Para fora da tua conversa privada ali, (00:45:58.880 –> 00:45:59.260) Digamos, (00:45:59.260 –> 00:46:00.940) Tu está interagindo diretamente com a meta (00:46:00.940 –> 00:46:02.800) E obviamente a meta vai ter acesso ao conteúdo (00:46:02.800 –> 00:46:05.060) Até para poder passar pelos modelos (00:46:05.060 –> 00:46:05.440) Dela lá, (00:46:05.440 –> 00:46:06.160) Do LLM dela. (00:46:06.160 –> 00:46:08.920) A alegação que está sendo feita (00:46:08.920 –> 00:46:11.860) É de que existiria, (00:46:12.140 –> 00:46:12.600) Aí sim, (00:46:12.600 –> 00:46:14.300) Meio que uma porta dos fundos, (00:46:14.300 –> 00:46:14.460) Tá? (00:46:14.460 –> 00:46:17.820) Que a meta pode acionar (00:46:17.820 –> 00:46:19.500) Por conta (00:46:19.500 –> 00:46:22.100) E ela teria praticamente um acesso (00:46:22.100 –> 00:46:23.080) Em tempo real (00:46:23.080 –> 00:46:24.200) À conversa do usuário. (00:46:24.200 –> 00:46:26.580) É isso que está sendo alegado. (00:46:26.580 –> 00:46:27.980) Então, (00:46:27.980 –> 00:46:28.940) Então, (00:46:28.940 –> 00:46:29.940) Tu tens o protocolo (00:46:29.940 –> 00:46:31.120) Signo ali em andamento, (00:46:31.120 –> 00:46:33.580) Mas o aplicativo em si (00:46:33.580 –> 00:46:35.340) Aceitaria uma task lá, (00:46:35.340 –> 00:46:36.280) Uma tarefa (00:46:36.280 –> 00:46:38.200) Que ativaria esse processo (00:46:38.200 –> 00:46:40.540) De monitoramento das mensagens. (00:46:40.540 –> 00:46:43.160) Se o protocolo está bem implementado (00:46:43.160 –> 00:46:44.400) No WhatsApp, (00:46:44.400 –> 00:46:46.100) A gente imagina que esteja, (00:46:46.100 –> 00:46:48.320) Lembra que ele protege (00:46:48.320 –> 00:46:49.700) A comunicação fim a fim. (00:46:49.700 –> 00:46:51.040) Certo? (00:46:51.040 –> 00:46:51.360) Então, (00:46:51.360 –> 00:46:52.560) O Vinícius se comunicando (00:46:52.560 –> 00:46:53.220) Com o Guilherme, (00:46:53.220 –> 00:46:54.580) Só o Guilherme, (00:46:54.580 –> 00:46:55.440) Na ponta dele, (00:46:55.440 –> 00:46:56.800) Vai conseguir decifrar a mensagem (00:46:56.800 –> 00:46:57.540) E ver o conteúdo. (00:46:57.540 –> 00:46:59.060) E vice-versa (00:46:59.060 –> 00:47:00.000) Quando o Guilherme me responde. (00:47:00.000 –> 00:47:00.200) Então, (00:47:00.200 –> 00:47:01.640) Quem está no meio do caminho, (00:47:02.520 –> 00:47:03.620) A meta está no meio do caminho, (00:47:03.620 –> 00:47:04.400) Não conseguiria ver (00:47:04.400 –> 00:47:05.120) Essas mensagens. (00:47:05.120 –> 00:47:06.240) Agora, (00:47:06.240 –> 00:47:07.680) Se eles conseguem mandar (00:47:07.680 –> 00:47:09.280) Um comando para a ponta, (00:47:09.280 –> 00:47:11.140) Que também é deles, (00:47:11.140 –> 00:47:12.100) Que é o aplicativo, (00:47:12.100 –> 00:47:14.860) Aí o software pode fazer (00:47:14.860 –> 00:47:15.360) Qualquer coisa (00:47:15.360 –> 00:47:16.040) Que eles programarem. (00:47:16.040 –> 00:47:17.120) Então, (00:47:17.120 –> 00:47:17.780) O que eles estão acusando (00:47:17.780 –> 00:47:19.980) É que existe um comando aqui (00:47:19.980 –> 00:47:21.200) Que eles poderiam mandar (00:47:21.200 –> 00:47:22.000) Para a ponta, (00:47:22.000 –> 00:47:22.560) Para um endpoint, (00:47:22.560 –> 00:47:23.160) Que seria (00:47:23.160 –> 00:47:24.500) Ou o celular do Guilherme (00:47:24.500 –> 00:47:24.920) Ou o meu, (00:47:24.920 –> 00:47:26.960) E a partir daí (00:47:26.960 –> 00:47:28.180) Acompanhar as mensagens (00:47:28.180 –> 00:47:30.060) Praticamente em tempo real. (00:47:30.060 –> 00:47:30.740) Então, (00:47:30.740 –> 00:47:32.480) O protocolo continua sendo seguro, (00:47:33.100 –> 00:47:34.620) Ninguém no meio do caminho (00:47:34.620 –> 00:47:35.540) Consegue pegar (00:47:35.540 –> 00:47:37.080) A tua comunicação, (00:47:37.080 –> 00:47:38.120) Mas (00:47:38.120 –> 00:47:39.860) A meta, (00:47:39.860 –> 00:47:41.000) Assim como qualquer outro (00:47:41.000 –> 00:47:42.200) Adversário na ponta, (00:47:42.200 –> 00:47:42.720) Conseguiria (00:47:42.720 –> 00:47:43.720) E ela tem a vantagem (00:47:43.720 –> 00:47:45.160) De controlar o software, (00:47:45.400 –> 00:47:45.940) Então, assim, (00:47:45.940 –> 00:47:48.040) Controlar o software cliente (00:47:48.040 –> 00:47:49.200) E que é um baita de um problema. (00:47:49.200 –> 00:47:50.800) É a grande questão (00:47:50.800 –> 00:47:52.680) Da criptografia aplicada. (00:47:52.680 –> 00:47:53.880) Não parece ser um problema (00:47:53.880 –> 00:47:55.140) No modelo criptográfico, (00:47:55.140 –> 00:47:56.620) Embora a IA tenha descoberto (00:47:56.620 –> 00:47:57.120) Esses dias (00:47:57.120 –> 00:47:58.620) No OpenSSL (00:47:58.620 –> 00:47:59.400) E não sei quantos (00:47:59.400 –> 00:48:00.120) Zero Days (00:48:00.120 –> 00:48:02.200) Numa passada ali. (00:48:02.200 –> 00:48:03.160) Que já foram corrigidos (00:48:03.160 –> 00:48:03.640) E tudo mais, (00:48:03.640 –> 00:48:04.820) Mas (00:48:04.820 –> 00:48:07.040) O perplexity (00:48:07.040 –> 00:48:08.800) Chamou a atenção (00:48:08.800 –> 00:48:10.540) De um fato interessante. (00:48:10.540 –> 00:48:11.640) Vale notar (00:48:11.640 –> 00:48:12.720) Que o escritório de advocacia (00:48:12.720 –> 00:48:13.760) Responsável pela ação (00:48:13.760 –> 00:48:14.320) É o mesmo (00:48:14.320 –> 00:48:14.880) Que representa (00:48:14.880 –> 00:48:15.780) O grupo NSO, (00:48:15.780 –> 00:48:17.580) Criadores do Pegasus. (00:48:17.580 –> 00:48:19.460) Em outro processo (00:48:19.460 –> 00:48:20.800) Contra o próprio WhatsApp, (00:48:20.800 –> 00:48:21.820) Que levanta questionamentos (00:48:21.820 –> 00:48:22.760) Sobre os interesses (00:48:22.760 –> 00:48:23.380) Por trás (00:48:23.380 –> 00:48:24.280) Da ação, (00:48:24.280 –> 00:48:24.620) Claro, (00:48:24.620 –> 00:48:25.260) O caso ainda (00:48:25.260 –> 00:48:27.040) Não foi julgado. (00:48:29.020 –> 00:48:29.940) Vamos ver o que vai (00:48:29.940 –> 00:48:31.300) Aparecer aí, (00:48:31.300 –> 00:48:32.120) Daqui a pouco (00:48:32.120 –> 00:48:34.180) Daqui a pouco (00:48:34.180 –> 00:48:35.160) Se mostra (00:48:35.160 –> 00:48:35.680) Que de fato (00:48:35.680 –> 00:48:36.740) Os caras tinham esse acesso, (00:48:36.960 –> 00:48:37.360) Vai saber. (00:48:38.380 –> 00:48:39.720) Diz que parece (00:48:39.720 –> 00:48:40.680) Que teria evidências (00:48:40.680 –> 00:48:42.380) No código, (00:48:42.380 –> 00:48:43.700) Alguma coisa assim, (00:48:43.700 –> 00:48:44.520) Mas enfim, (00:48:44.520 –> 00:48:46.340) Não vimos essas evidências. (00:48:46.340 –> 00:48:47.340) Vinícius, (00:48:47.340 –> 00:48:48.560) Aqui no Brasil (00:48:48.560 –> 00:48:49.000) Gosta, (00:48:49.000 –> 00:48:49.760) O pessoal gosta (00:48:49.760 –> 00:48:50.500) De dizer que o ano (00:48:50.500 –> 00:48:51.020) Só começa (00:48:51.020 –> 00:48:52.140) Depois do carnaval. (00:48:52.480 –> 00:48:53.160) Então como (00:48:53.160 –> 00:48:55.040) Já passou o carnaval, (00:48:55.040 –> 00:48:56.180) A gente pode mais uma vez (00:48:56.180 –> 00:48:57.340) Dizer feliz ano novo (00:48:57.340 –> 00:48:58.260) Para os nossos ouvintes. (00:48:58.260 –> 00:49:00.820) É um antes e um depois. (00:49:00.820 –> 00:49:04.080) E estamos de volta. (00:49:04.080 –> 00:49:05.100) Vamos ver se a gente consegue (00:49:05.100 –> 00:49:05.720) Agora manter (00:49:05.720 –> 00:49:08.220) A cadência semanal (00:49:08.220 –> 00:49:09.100) Aí de gravações (00:49:09.100 –> 00:49:10.760) E esperamos que, (00:49:10.760 –> 00:49:11.740) Não sei se você tem (00:49:11.740 –> 00:49:12.540) Mais alguma observação, (00:49:12.540 –> 00:49:12.920) Vinícius, (00:49:12.920 –> 00:49:14.080) Já vou terminando também. (00:49:14.080 –> 00:49:14.940) Não, não, (00:49:14.940 –> 00:49:15.400) É isso aí. (00:49:15.400 –> 00:49:16.380) A gente já está, (00:49:16.380 –> 00:49:16.800) Inclusive, (00:49:16.800 –> 00:49:18.100) Chegando no meio-dia. (00:49:18.100 –> 00:49:19.520) A gente teve vários (00:49:19.520 –> 00:49:20.660) Problemas técnicos hoje (00:49:20.660 –> 00:49:21.700) Ao longo da gravação. (00:49:22.240 –> 00:49:22.760) Exato. (00:49:22.760 –> 00:49:24.260) Assim, (00:49:24.260 –> 00:49:25.540) É ruim quando a gente (00:49:25.540 –> 00:49:26.060) Fica muito tempo (00:49:26.060 –> 00:49:26.560) Sem gravar. (00:49:26.560 –> 00:49:27.840) Aí algumas coisas (00:49:27.840 –> 00:49:28.940) Mudam de versão (00:49:28.940 –> 00:49:30.640) E já atrapalham a vida. (00:49:30.640 –> 00:49:32.080) Se a gente está (00:49:32.080 –> 00:49:32.820) Gravando toda hora, (00:49:32.820 –> 00:49:34.700) A mudança é mais suave (00:49:34.700 –> 00:49:36.760) Do que desse jeito. (00:49:36.760 –> 00:49:38.460) Mas de qualquer forma, (00:49:38.460 –> 00:49:38.960) Deu tudo certo. (00:49:38.960 –> 00:49:39.620) Não, tudo certo. (00:49:39.620 –> 00:49:41.100) Se você está ouvindo. (00:49:41.100 –> 00:49:44.220) Esperamos que esteja ouvindo, (00:49:44.220 –> 00:49:45.160) Senão vai ficar algo.. (00:49:45.160 –> 00:49:45.300) Esperamos que sim. (00:49:45.300 –> 00:49:47.300) Então nos encontraremos (00:49:47.300 –> 00:49:48.660) Agora no próximo episódio (00:49:48.660 –> 00:49:49.280) Do podcast (00:49:49.280 –> 00:49:50.660) Segurança Legal. (00:49:50.660 –> 00:49:51.800) Até a próxima! (00:49:52.000 –> 00:49:53.420) Até a próxima! | — | ||||||
| 1/6/26 | ![]() #410 – Retrospectiva 2025 | Neste episódio fazemos uma retrospectiva dos assuntos mais importantes tratados em 2025 no Segurança Legal. Você irá descobrirá os principais temas que dominaram o ano em inteligência artificial, segurança da informação e direito digital. O episódio traz uma análise sobre o aparecimento do Deepseek, explorando como a inteligência artificial transformou o cenário de segurança cibernética. Você irá descobrir os riscos de atrofia cognitiva causados pelo uso excessivo de IA, a importância da proteção de dados pessoais com a LGPD, e como os backdoors em modelos de linguagem ameaçaram a supply chain. O podcast também aborda questões de vigilância digital, as novas regras do Banco Central após fraudes bancárias, a inconstitucionalidade do artigo 19 do Marco Civil, a aprovação do ECA Digital, vulnerabilidades no gov.br e a questão crítica do analfabetismo funcional digital. Esta retrospectiva cobre ainda aspectos geopolíticos da IA, regulação de inteligência artificial, conformidade com políticas de proteção de dados, e o papel das bigtechs em 2025. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Imagem do Episódio – Por trás do tempo – Guilherme Goulart 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao episódio especial de retrospectiva do Segurança Legal. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? >> Olá, Guilherme, tudo bem? Olá, aos nossos ouvintes. >> Bom ano novo para você e para os ouvintes também. >> Valeu, cara. (00:23) Muito obrigado para ti também, para os nossos ouvintes. Um maravilhoso 2026 cheio de surpresas que virão, né? Na verdade, ele já começou com algumas surpresas bem interessantes, né? >> É, já começou com várias surpresas interessantes e importantes, aí, né? Bom, eh, sempre lembrando, né, que para nós é fundamental a participação de todos com perguntas, críticas e sugestões de tema. (00:44) Então vocês já sabem, estamos à disposição pelo e-mail podcast@segurançalegal.com, YouTube, onde você pode ver esta transmissão, se é que já não está vendo no YouTube, Mastodon, Bluesky, Instagram e TikTok. Eventualmente alguns cortes dos episódios vão também para TikTok e para o próprio YouTube. O YouTube tem priorizado muitas vezes os vídeos shorts que ele chama, acho que é, né? Então você também encontrará alguns shorts lá no nosso YouTube. (01:12) Bom, a ideia, né, é que as retrospectivas geralmente são feitas no finalzinho do ano, né, de 2025, mas a gente, né, por questões de um mini descanso que fizemos no final do ano, vem agora a retrospectiva, porque não tem problema, né? Não há problemas. Então, a gente vai fazer uma revisita aos temas mais importantes, os grupos de temas na verdade mais importantes aqui de 2025, que foram os episódios 384 a 408, então foram 25 episódios aqui, né. (01:49) >> Muita inteligência artificial, mas também bastante segurança, né, e aspectos jurídicos, como a gente vai ver aí na nossa retrospectiva, sem se esquecer, Vinícius, que você também pode, se quiser, e a gente conclama que você faça, apoiar o Segurança Legal pela nossa campanha de financiamento coletivo lá no Apoia.se. (02:09) Apoia.se/segurançalegal do Segurança Legal, você estará ajudando a manter um projeto independente de produção de conteúdo de proteção. Então, já começamos direto, Vinícius, no tema que dominou o ano. Esse tema é muito impressionante, tem muitas características e uma das características desse tema é que ele funciona quase como um buraco negro. Ele vai atraindo a atenção das pessoas de uma forma quase que mágica, às vezes, né? Bom, vocês já sabem, a inteligência artificial. E uma coisa que eu vou destacar, o primeiro item aqui, já te passo a bola, é o momento Sputnik e o nascimento, ou não sei se é bem o nascimento ali, né, mas o aparecimento do Deepseek lá em janeiro de 2025. (03:02) E é interessante a gente notar o ano, né? Bem no início do ano. >> Bem no início. Um dos primeiros ali. Cara, parece que faz muito mais tempo, né? >> Sim. >> E não faz um ano. >> E não faz um ano. E quando a gente fala disso, e aliás, vai fazer um ano amanhã, pelo o episódio é o 385 de, ah, não, 6 de fevereiro, né? É, é, >> é o que chama a atenção aí. (03:26) Bom, primeiro que sim, essas aplicações acessíveis ao grande público, né, desde 2022 para cá tem sido inaugurado com ChatGPT. Realmente, cara, 22 parece que faz muito tempo em termos de soluções e de quanto melhorou a gente sabe no nosso dia a dia. É uma coisa realmente absurda. A gente usa desde o dia zero lá em 22, a gente tem utilizado e acompanhado e o Deepseek em si, por si só, né, o modelo em si, é interessante e tal. Eu não uso, tá? Eu fiz alguns testes naquela época, depois não acompanhei mais. Eu tenho uma certa preferência pelos modelos da Anthropic. (04:23) Mas o que chamou bastante atenção foi que o Deepseek conseguiu com uma fração do custo da OpenAI, que era na época 100 milhões de dólares que ela gastou para fazer o GPT4, estimado porque ela não abre esse valor exato, tá? Enquanto a OpenAI teria gasto aí mais de 100 milhões para treinar o GPT4, o pessoal do Deepseek, né, conseguiu fazer com 5,5 milhões de dólares, tá? (04:48) >> E ainda por cima, utilizando os chips da Nvidia que não estavam sob embargo, tá? Uhum. >> Porque os chips H100, os mais avançados, os H200 e tal, agora H200, ã, mas esses chips estavam embargados e continuam, né? Algumas coisas ainda não podem ser vendidas para a China. (05:09) O governo chinês, o pessoal na China já está revoltado. Isso é uma atualização, tá? Eles estão cada vez mais tentando treinar com alternativas, tipo Dansé, não vão ficar dependendo de uma empresa que pode ora vender, ora não vender. E então assim, tem coisas que já estão fora do embargo e não estão sendo compradas como se esperava, tá? E isso, naquela confusão toda do modelo precisar muito menos recurso para ser treinado. (05:39) Ah, num dia a Nvidia perdeu 600 bilhões de dólares de valor, porque assim, meu Deus do céu, então a gente não vai precisar de tanta coisa, né, o mercado enlouqueceu assim, não. Então, para isso, os caras fizeram com uma fração dos recursos. A Nvidia não vai vender tanto assim, então as ações da Nvidia despencaram e tal, mas depois ao longo do ano a Nvidia voltou a subir e tal, vai precisar de GPUs da Nvidia de qualquer jeito. (06:00) >> Então não vai ter >> não, não vai ter mais saída nesse sentido. >> Isso destaca esse aspecto econômico, né? Eh, e geopolítico também, né? O nome sugere Sputnik da coisa da corrida espacial, né, entre os Estados Unidos e na época União Soviética e tal. >> E a gente está vendo hoje, né, essa uma reconfiguração política e geopolítica. (06:24) E a IA está no cerne disso, né, com o governo Trump. E >> e eu acho que a gente começou bem o ano ali, porque isso meio que ditou muito da geopolítica global, né? Não somente isso. Agora a questão do petróleo, Venezuela e tal, mas a inteligência artificial. Quer dizer, até isso, né? Tecnologia de maneira geral, né? É a tecnologia de maneira geral, né? >> Mas o papel das terras raras para a produção de chips é interesse dos Estados Unidos também, né? Então, sim, sim, sim. (06:52) >> Essa corrida está bem, está ficando cada vez mais estranha, né? >> Bom, depois, Vinícius, a gente segue com outras análises aqui envolvendo inteligência artificial. A gente falou sobre IA e pensamento crítico, que é um baita tema também. E quando a gente começa a envolver educação, né, não somente educação, mas a forma como as pessoas vão passar a usar. Ninguém sabe direito ainda quais são os impactos da IA no psicológico das pessoas e também na forma como elas vão aprender, né? (07:11) Tem diversas formas aí de você se beneficiar delas, mas também a gente sabe que, sendo utilizada de uma forma errada ou sem saber exatamente como utilizar, ela pode trazer uma série de malefícios. E um desses malefícios é a redução do pensamento crítico. Num estudo que ficou bem famoso ali da Microsoft, “The Impact of Generative AI on Critical Thinking”. Vou ler só esse pedaço aqui porque o título é muito grande, né? (07:33) Eh, e basicamente a gente falou sobre isso lá no episódio 387. Ou seja, quanto mais tu usa, quanto mais tu confia, menos o teu pensamento crítico vai ser habilitado… (07:57) Eh, e isso é crucial no âmbito da educação. E também a gente aprofundou um pouco isso lá no 406, com estudos, né, um outro artigo, mas que >> falava sobre aquela ideia de atrofia cognitiva. Ou seja, quanto mais o sujeito vai usando, mais ele vai perdendo certas capacidades. E essas capacidades ficam naquela ideia de dívida cognitiva acumulada, né? Você para de usar IA e demora para retornar àquilo, né? (08:34) Mas sabe que a gente não sabe, né? É pouco tempo ainda para a gente estudar os impactos disso, né? Até da própria internet muitas vezes a gente não sabe direito os impactos na educação. Então agora, com a IA isso fica bem mexido também. É, esse segundo artigo no episódio 406 é aquele episódio que tem 206 páginas, tá? Foi utilizado eletroencefalograma e tal. Ele é bem mais completo do que o estudo da Microsoft que a gente falou no 387, mas ambos chamam atenção para esse perigo, né? (09:09) Esse perigo não é que toda tecnologia tem risco, né, Guilherme? >> Uhum. >> Toda tecnologia tem, a gente começa a se acostumar com ela ali, a gente vai mudando o nosso comportamento e aqui a gente está mudando, falando de mudança de comportamento cognitivo, né? Hum. >> Então, é um problema que a gente tem que estar ligado, principalmente com relação à educação de crianças, né, o processo de educação e tudo mais. É. (09:34) >> Ah, e aí fala, Guilherme. >> Não, não. Eu ia, eu ia dizer já passando para o próximo, até porque são muitas coisas, né? >> É, não, só tem um ponto aqui que é o seguinte. Teve um estudo na Nature depois, tá? Que se mostrou que aumentava o comportamento desonesto de 84 a 88% das vezes, né, de pessoas que podiam simplesmente delegar a demanda para IA. (10:09) Então assim, se eu puder delegar para IA, aumenta substancialmente, tá? Segundo esse artigo publicado na Nature, o artigo é de 23, tá? O estudo foi feito em 23. Ele aumenta substancialmente a chance de alguém agir de forma desonesta, tá? Então tá aí 387, 406, tá? A gente não vai entrar em cada um dos temas aí que senão a coisa fica longa demais. (10:32) >> Bom, 2025 também foi o ano de segurança e inteligência artificial. Esse tema teve, dominou não, mas teve com uma frequência grande aqui no Segurança Legal. Eu acredito, essa é uma retrospectiva, mas eu não vou me furtar de fazer algumas projeções, mas isso é bem óbvio, né? Vai ser um tema que aí sim 2026 acho que vai entrar muito mais forte. Ou seja, quando mais pessoas estiverem usando, mais incidentes, problemas, riscos vão começar a aparecer e necessariamente as empresas vão (11:05) ter que, ou não, porque até para a segurança hoje a gente sabe como é difícil convencer as empresas em alguns casos a investir, mas a gente sabe que 2025 teve uma série de questões. Teve um experimento do Chancar Vinícius sobre backdoors em LLMs e tal. Fala um pouco para a gente aí o que a gente comentou nesses episódios. (11:27) >> Rapidamente, a ideia que se testou foi tu ter um modelo que foi previamente instruído a gerar código, inserir backdoors nesses códigos, tá? >> E obviamente o modelo fez. Claro que a gente não está falando aí de modelos na mainstream, né? A gente não está falando de um Chat, um GPT5, um GPT4, um Sonet, um Opus, etc. (11:53) Eh, mas de eventualmente, assim, se você vai lá falar no Hugging Face, a gente tem dezenas de milhares de modelos e assim, ah, vou pegar um modelo, vou puxar aqui, vou executar na minha máquina, vou fazer um produto em cima disso. Você tem que saber o que tem nesse modelo, tá? Então, se você já tem gente que desconfia dos modelos da Open, por exemplo, né, tem que tomar cuidado com mais ainda com modelos, entre aspas, quaisquer que você vai lá e busca na internet e sai executando. Se não você não sabe o que (12:22) tem nele, tá, em geral. Então, muito cuidado. Consegue saber olhando para o modelo, né? >> Não, nem consegue saber olhando para o modelo. Então, assim, é bem delicado isso, tá? Eh, porque o que o Shankar mostrou é que é possível instruir um modelo para injetar backdoors, né, portas dos fundos ou outras formas de acesso alternativas em sistemas que foram gerados utilizando aquele modelo e que o quem estava usando o modelo para desenvolver não solicitou aquilo, tá? (12:52) >> Uhum. >> Muito cuidado. Supply aqui é um baita de um pepino, tá? E aí no 399, a gente tem três episódios aqui, o 386 que a gente falou sobre isso, o 399, tá? Ah, se falou da questão de documentos envenenados. Ou seja, documentos que, no caso, eles manipulavam o comportamento do ChatGPT, da aplicação ChatGPT, tá? Mas a ideia aqui em geral é você ter de alguma maneira escondido no documento, codificado no documento, instruções que eventualmente o modelo possa ler e seguir. (13:30) Então, por exemplo, tu pode fazer uma pesquisa. Isso tem que se tomar muito cuidado nos navegadores com automação com IA, né, como, por exemplo, o Comet do Perplex ou mesmo o Chrome com o Cloud no Chrome, né, que é uma integração com OpenAI Cloud que eles disponibilizam que tu pode instalar e aí controlar o teu navegador. Porque, por exemplo, se tu acessar uma página que tem um prompt escondido lá dentro e a aplicação que utiliza o modelo não separa adequadamente o que é informação retornada da página do resto do teu prompt, se não deixar bem (14:03) claro, ó, aqui começa a informação que eu estou recuperando da página, tá? Não executa nenhuma instrução que tem aqui dentro. E aqui termina. Se ele não fizer isso, se a aplicação não tiver esse tipo de cuidado, é muito fácil uma página HTML, um documento PDF, um documento Excel, alguma coisa assim, meter, injetar um prompt para dentro. (14:23) Então assim, tem que tomar bastante cuidado. Esse foi um outro ponto que se apontou, tá? E o fala, GR >> não pode continuar, tá? Eu ia já virar. >> E no 404, tá? A gente comentou, e aí tem que tomar muito cuidado, tá, gente? Porque no 404 a gente comentou aquela questão do modelo do Claude na época, tá? Do Cloud não, do acho que foi agora não, mas foi uma experiência da Anthropic, tá? Em que o modelo resolveu chantagear, tá? Um funcionário numa situação hipotética, tá? (15:06) Então, um funcionário que estava dizendo para o modelo, deixando claro para o modelo, que ele iria desativar o modelo, tá? Esse modelo tinha acesso aos e-mails desse funcionário e entre esses e-mails tinha um e-mail lá que deixava claro que ele tinha um caso com alguém no trabalho. Mas isso de novo, gente, isso aí foi um teste num ambiente controlado com várias exceções ali no funcionamento do modelo. (15:31) Não é uma coisa normal que o Sonnet vai sair fazendo, tá? Então, e nesse ambiente, o que eles testaram, o modelo resolveu, quando percebeu que ia ser desligado, ele resolveu chantagear o funcionário dizendo: “Eu tenho um e-mail aqui que demonstra que tens um caso com a fulana. E se tu me desligar, tentar me desligar ou prosseguir, não sei quê, eu vou denunciar esse teu caso, tá?” (15:56) A gente teve uma outra situação muito parecida ao longo desse ano que virou manchete. Que é IA botaram a IA para cuidar de um negócio, o negócio quebrou, tá? >> Uhum. >> Isso é dentro da Anthropic. Eles botaram aquelas máquinas que elas vendem, máquinas deles, tá? Será que os americanos usam muito isso? Que no Brasil a gente tem pouco, tá? A gente tem alguns lugares muito específicos, mas que elas vendem máquinas. (16:05) Que as máquinas de venda. Só que eles botaram a IA para gerenciar tanto fazer os pedidos, fazer as compras para reabastecimento, quanto definir os preços que ela ia usar para vender, tá? Então assim, é uma experiência. O negócio errou tudo, fez um monte de bobagem, vendeu coisa por preço muito baixo. Teve funcionário que conseguiu convencer a que ela entregasse de graça o produto. Então, tem uma série de coisas aí que aconteceram, mas de novo, a gente foi, não é uma não deram uma empresa de verdade para esse negócio gerenciar, tá? (16:34) Então tem que tomar um pouco de cuidado com os headlines que a gente lê por aí. >> É, tem muita desinformação sobre conteúdo de IA, né? Muito, muito. Não é só desinformação. É que se tu disser IA, botar uma IA para gerenciar uma empresa e olha o que aconteceu, sabe? Aí, cara, todo mundo vai estar clicando na porcaria, entende? (16:58) >> É, mas tem, não é só a IA sendo usada para produzir desinformação. É muita desinformação sobre IA também, né? É sobre essa questão da manipulação. Esse é um dos riscos, né? Um dos riscos já mapeados para IA é o risco relacionado a manipulações cada vez mais personalizadas e especializadas, né? (17:22) Ou seja, não é aquela, com a internet hoje a gente já tem possibilidades de manipulação já bem antigas e a própria ideia de publicidade comportamental ou uso de dados pessoais. Isso é bem conhecido. Já se usava a inteligência artificial lá, né? Hum. >> Só que o salto que se deu com os modelos atuais, você tem possibilidades de manipulação muito mais super especializadas, né? (17:48) E a gente já começa a notar, quem usa esses modelos que têm uma memória e que conseguem ver as respostas, né? Esses dias eu contei para ele lá, estava perguntando para ele sobre as configurações da minha máquina de fotografia, sabe? E aí agora tudo que eu pergunto, ah, você como um usuário da máquina, tal, sabe? Fica sacagem, cara. Não quero saber. Perguntei só (18:26) uma vez, mas assim, uma coisa que ele faz e a gente já conversou várias vezes sobre isso, né, e não sei se o nosso ouvinte, a nossa ouvinte já percebeu isso, são aqueles elogios meio gratuitos, às vezes muito bom, ótima pergunta, né? Ou seja, isso dá uma massageadinha no teu ego e a depender do tipo de porque isso também é algo previsto, né, ou seja, questão de elogiar, não elogiar, xingar, ou seja, são comportamentos ali, né? (18:57) Então isso está no cerne também da ideia de manipulação que eu acredito que vai aumentar assim. Também me parece que é bem óbvio, né? Novas formas de manipulação muito imperceptíveis e mais os riscos eles acabam ficando muito também personalizados, né? O que se tem dito aí é que as pessoas vão começar a notar certos comportamentos e certos riscos que vão atingir eventualmente somente elas ou somente um grupo de pessoas ou somente uma área. (19:22) As coisas acho que vão ficar muito mais diluídas, assim. Vai ser difícil a gente falar em riscos muito mais genéricos, me parece, né? Eh, seguindo nessa mesma linha de segurança, a gente teve também nos últimos episódios ali de 2025 aquela também um headline, se a gente for pensar, né? O primeiro ataque cibernético realizado pela IA. (19:44) Quase como, e a gente comentou isso, né, como se a IA tivesse acordado um dia, uma IA tivesse acordado, Skynet, Skynet. >> É, vou invadir, né, 30 empresas. E a gente sabe que não foi bem assim. Foi algo bem mais simples, né, mas bastante elegante, né, que é o uso de Cloud Code, né, Vinícius, que foi utilizado para uma orquestração. (20:20) >> Cloud Code, o Cloud Code, né, que é uma ferramenta para desenvolvimento em linha de comando. E o que um grupo, ah, segundo Anthropic, vinculado ao governo chinês, a mais geopolítica, né? >> Uhum. Claro. Um grupo vinculado ao governo chinês usou o Cloud Code para automatizar o processo de busca de vulnerabilidades e exploração das vulnerabilidades. (20:58) Então, claro que os detalhes você pode ver lá no episódio mesmo no artigo que a gente colocar lá no show notes, mas em essência o que aconteceu foi que eles pegaram o Cloud Code, integraram uma série de ferramentas de varredura de vulnerabilidades, análise de código, exploração de vulnerabilidades e tal e criaram prompts, subagentes, skills, etc, para fazer com que a própria ferramenta realizasse ou automatizasse esses ataques. (21:20) E com essa automatização eles teriam invadido pelo menos 30 empresas que a Anthropic confirmou…. A Anthropic identificando esse uso, ela de imediato cancelou as contas, encerrou o acesso desse grupo. Mas o que chama atenção aí não é que a IA em si não tocou ninguém, né? Serviu de ferramenta para um grupo que esse grupo sim atacou as 30 empresas, tá? (21:45) Talvez seja o vibe hacking, né? A gente tem o vibe coding e o vibe hacking. Agora vamos, e é a tendência, como a gente sempre viu ao longo desses mais de 20 anos aí na área de segurança, né? A gente sempre comenta. Tem quando surge um ataque, uma nova técnica de ataque, de início, ela é difícil de ser aplicada por pessoas que não conhecem ou porque não tem um conhecimento mais profundo. (22:12) Então os tais script kids, já antigos script kids, né? Então o cara não consegue usar aquilo para explorar nada porque ele não entende aquilo ali. Mas dali a um tempo sai uma ferraminha que ele aponta, clica e a ferramenta ataca e explora o alvo. E a IA está dando agora um novo passo nesse sentido. São ferramentas que vão ser capazes de automatizar ainda mais esses ataques. (22:34) E sim, pessoas com menos conhecimento vão conseguir atacar empresas, vão conseguir explorar vulnerabilidades, extrair dados e tudo mais. Então nós temos um cenário meio complicado. Claro que ao mesmo tempo dá para usar para se defender, né? Mas só para ficar bem claro que os atacantes vão avançar bastante também. É isso. (22:59) A ideia de usar IA para se defender também se refletiu ali no episódio 403, né? Orientações para uso empresarial. Foi um episódio mais aberto assim naquela ideia de 10 orientações sobre uso de IA. Você chama sempre bastante atenção, inclusive foi um dos episódios mais escutados durante o ano. >> Não adianta, né? A internet ela fica muito vinculada essa ideia de clique e tudo mais. A gente resiste e tal, mas enfim, a gente faz esse tipo de episódio. (23:32) Mas eu entendo que ele é bem útil, né? Fica lá no episódio 400. Inclusive a gente fala sobre a ideia de que a gente tinha antes o Shadow IT, né? O empregado que ficava usando uma série de ferramentas que saíam fora do da dos modelos de compliance, né, das práticas de compliance internas, as práticas de segurança, né, eh eventualmente aplicadas. (24:10) Eh, e agora a gente vê o shadow AI, que é os funcionários utilizando ferramentas de IA que não são homologadas ou que estão fora lá dos controles de segurança que eventualmente a empresa aplica, né? Então a gente fala sobre isso, fala sobre a questão de políticas, fala sobre dados de treinamento. Quando for o caso da própria empresa treinar um modelo ou partir de um modelo já pré-treinado e treinar depois, questões éticas, relação com proteção de dados. (24:46) Eh, hoje se estuda muito IA, né, eu digo no âmbito acadêmico, né, o pessoal do direito que antes estava direito e tecnologia, né, que antes estudava só LGPD, agora só IA. Tudo é IA, IA o tempo todo, aquela coisa do buraco negro, né? Mas não dá para esquecer da proteção de dados, porque tem, pelo menos no Brasil, é o que nós temos, o que nós temos de mais próximo ali de regular e a via da proteção de dados pessoais. (25:24) Claro, também é ECA Digital, agora que a gente vai falar um pouquinho depois, né? Mas fica a indicação aqui do episódio 403, né? E também rapidamente ali no episódio 390, a gente falou sobre a relação entre IA também e LGPD. Que foi feito um estudo da FGV Direito Rio, que analisou as políticas de conformidade, as políticas, né, ou melhor, a conformidade das políticas dos principais serviços de IA: ChatGPT, Gemini, Claude, Grok e Deepseek. Que basicamente nenhum deles cumpriu todos os requisitos básicos, sendo que a gente está falando de 25, né? (25:55) Abril 25, então pode ser que tenha mudado esse cenário, mas a gente comentou isso aí. >> E mais uma vez o Deepseek ficou em último lugar, eram 14 pontos, marcou ou pontuou somente em cinco. E mais uma vez isso também envolve indiretamente soberania digital, né? >> Eh, nós acabamos, nós ficamos, nós nos tornamos, né? O não somente da IA, mas de outras tecnologias também meros usuários, né? Muito mais usuários do que produtores de tecnologia. (26:23) E com IA isso está começando a acontecer e se cria dependência. A gente sabe, já gravamos no ano retrasado, acho que foi essa questão da dependência, né? E como sair, às vezes, como é difícil sair dos locking costs, que muitas vezes as ferramentas nos impõem, né? E com IA acho que isso não vai ser diferente também. (26:45) >> E mesmo na questão da própria produtividade, né, Guilherme? Quando tu tens, tu tens, quando tu tens como nação, ela tem recurso, o recurso tecnológico necessário, o dinheiro necessário, né, para conseguir avançar numa data de tecnologia. Nesse caso, como IA, está todo mundo correndo para tentar chegar numa IA, algo que seja a IA inicial ou seja lá como queiram chamar, né? Que cada vez o pessoal muda um pouco de nome. Mas numa inteligência artificial mais geral. (27:06) Eh, e isso vai avançando. E por mais que a gente tenha modelos nacionais que o pessoal começa a trabalhar, etc. No momento que tu vê a produtividade de um modelo norte-americano como os da Anthropic, como os da OpenAI, etc. Cara, é muito difícil dizer: “Não, eu vou usar um modelo muito pior, entende? Muito mais limitado do que esse aqui que resolve o meu problema”. É muito difícil acontecer. As empresas vão querer utilizar o que resolve o problema, né? (27:24) >> Uhum. Eh, e até pagando mais, dependendo da situação. Então, para entrar nessa briga de cachorro grande aí, cara, tem que ter muito investimento. Muito investimento mesmo. E a gente está para ver >> soberania, né? Mais uma vez, não só investimento, mas é uma questão de soberania, porque a gente sabe que os Estados Unidos estão cada vez mais agressivos. (27:51) >> Sim. Sim. >> Na preservação da sua liderança na IA, né? E, enfim, isso deve marcar também 2026. Eh, outro tema que a gente tratou foi a relação, a gente gosta de falar sobre isso, né? Relação entre poder, um pouco de geopolítica também e as bigtechs. E isso começou lá no episódio 384, que foi o primeiro episódio, né? Inclusive já nos cobraram quando vem o segundo, né? (27:59) Que 384 foi o caso Meta. Na verdade foi o primeiro, fui só conferir aqui o primeiro episódio de 2025. >> Sim. Que seria a parte um, né? Seria a parte um, mas a gente foi, a gente é às vezes atropelado pelas circunstâncias, né? (28:25) Mas basicamente ali a gente tentou fazer um histórico do nascimento do Facebook depois da Meta, o caso Cambridge Analítica, aquela questão do contágio emocional que a gente já comentou aqui. É, e de diante desse mini histórico, o objetivo foi chegar até aquele alinhamento que a Meta, não somente a Meta, mas Google, as bigtechs, tiveram com o governo Trump, né. (28:51) Eh, diminuição de guard rails para moderação de conteúdo, visando um pretenso aumento da liberdade de expressão e tal. E isso foi bem crítico, né? Eu confesso até que eu não vi grandes consequências daquela diminuição das políticas de moderação. Também não é um assunto que eu acompanho tão de perto assim, mas não vi 2025 como tendo uma ampliação muito grande de problemas, né? (29:15) Não sei se tu acompanhou isso também. Não, não acompanhei. Não acompanhei, Guilherme. Não acompanhei. E adiante ali no 390, se mostra o caso de que essas bigtechs não estão muito preocupadas com princípios, né? >> Uhum. >> Ah, por exemplo, o Elon Musk reclamava de algumas coisas, né? >> De algum de algumas reclamava de algumas cobranças de regulações, não sei quê. (29:44) Mas quando chegou na China, ele não teve problema nenhum em ceder lá as demandas do governo chinês. E o Zuckerberg não foi diferente. O Zuckerberg, a gente citou isso no 390, né? Ele ofereceu dados de cidadãos americanos para a China em troca da entrada no mercado chinês. >> Uhum. >> Tá. Então assim, nós estamos preocupados com todo mundo. (30:07) Na verdade, a gente está preocupado com o nosso mercado, né? E acho que é muito problemático tu ter empresas decidindo os rumos dos países, inclusive rumos políticos e tudo mais, dada ao alcance que eles têm e à capacidade que eles têm. Mas isso é um problema para outro episódio. (30:29) >> Vamos tratar disso em 2026, né? Ainda dentro da Meta, né, a gente falou lá no episódio 407, lembrando, a gente está organizando aqui por blocos de temas. E no episódio 407, a gente trouxe uma reportagem bem interessante da Reuters que falou que a Meta sabia conscientemente e lucrou bilhões de dólares com anúncios fraudulentos, né? (30:58) Acho que era 10% do seu faturamento, se não me engano. >> Sabia que era fraudulento e >> sabia e decidiu lucrar com anúncios fraudulentos. O que é um verdadeiro escândalo, porque esse dinheiro, na verdade, ele é criado. Ele é pago com valores que são furtados, roubados, enfim, desviados das pessoas. (31:27) Então, quando você faz aquela compra num produto que parece muito bom, mas nunca chega, né, quem nunca, né, a gente tem aí o dedo consciente da Meta, conforme, claro, a reportagem da Reuters. Também a gente falou um pouco sobre conteúdo sintético, né? Lembrando que em março, né, no episódio 378, a gente falou sobre o brain rot e o conteúdo sintético. (31:41) Brain Rot, né? O apodrecimento do cérebro pelo, né? Tem também o dumb scrolling, né? Que as pessoas ficam lá girando a timeline lá sem, aí tem tudo cheio de AI slop. >> Exatamente. >> É outro termo que a gente foi apresentado esse ano. Nesse ano, né? Eu acho que foi brain rot. É uma coisa desse ano, né? (32:05) Eh, e aí conteúdo gerado por IA, aí tinha uns conteúdos da Peppa Pig, né? Sexualização de personagens infantis e tal que seriam lixos criados só para monetização. Eh, e só um parênteses. Isso evoluiu bastante em um ano. É impressionante a qualidade, né? (32:28) Esses dias eu estava vendo a evolução de vídeos gerados por IA que tinha um ator americano, o Will Smith, comendo uma macarronada assim, e era super mal feito assim. E aí mostrou como é hoje e é cara, é imperceptível. Como, né, a gente já está, já estamos sendo enganados mais de uma vez. (32:49) Aí a gente às vezes se pergunta, Vinícius, isso aqui é fake? [pausa]. Fiquei assistindo, esses dias fiquei assistindo um vídeo, cara. Depois uns minutos, não, mas isso aqui foi gerado por IA. O conteúdo até era bom, mas era um narrador ali que era gerado por IA. E enfim, isso evoluiu bastante. (33:06) Eu me refiro aí agora ao conteúdo sintético e isso vai ser uma tendência cada vez maior, né? Conteúdo sintético sendo gerado para engajamento. E a onda de desregulamentação, a ideia de desregulamentação, inclusive acerca da IA, com base nos interesses norte-americanos. (33:35) Isso também, eles afrouxaram controles, passaram a diminuir os controles acerca dos riscos. Então, parece que a gente tem aí dois polos na regulação da IA, especificamente no mundo. O polo americano pela desregulamentação visando obter um oligopólio das soluções. E o polo europeu com uma regulação protetiva. Claro que teve alguns passos atrás aí, inclusive na Europa e tal. (34:15) Tem propostas também de diminuir as regulamentações acerca dos riscos. Eles fazem aquele modelo de riscos no sentido de que ferramentas de alto risco, de médio risco, enfim, e aí com boas práticas a serem seguidas para cada uma delas. E claro, os Estados Unidos tem se oposto aí, se opuseram ao longo de 2025 e parece que vão continuar fazendo o mesmo. (34:53) Não há, eu diria assim, não vejo um panorama em que isso vai mudar. E isso com a pressão que eles têm feito, né? Acredito também que vai influenciar o mundo inteiro, inclusive Brasil, nos possíveis avanços aí de regulação de IA aqui no Brasil, né? Bom, tivemos, claro, como sempre, vazamentos e fraudes bancárias. Eu acho que o grande, o grande não, esse não foi o grande. Tem o maior ainda, mas um dos grandes, né, invasões aí, vazamentos foi da XP, né, Vinícius? (35:15) A gente falou lá no episódio 391. Eh, isso teria vazado lá por meio de um fornecedor externo. Sempre aquela questão, é, não foi um fornecedor externo. >> É, mas pelo visto foi mesmo, foi mesmo. É, é, um, é um parceiro que tinha acesso aos dados e esse parceiro de alguma maneira vazou, né? (35:52) E como eles tinham acesso a dados cadastrais, saldo, posição de investimento, limite de crédito, nome do assessor, tudo vazou por meio de um fornecedor externo. Então, às vezes não, a gente tem as empresas com os seus próprios dados para seu uso próprio, direto. Mas cada vez mais a gente tem integrações. E essas integrações envolvem tu consumir dados de outras empresas. Mas ao mesmo tempo tu entregar certos dados (36:16) para essas mesmas empresas com as quais tu estás integrando. E a partir daí, no momento que tu transfere os dados, ah, e os dados chegam lá no teu fornecedor, no teu parceiro de negócio, o que esse teu parceiro faz lá impacta diretamente agora a cópia dos dados que são teus, que pertencem aos teus clientes, sobre os quais tu és responsável. (36:52) E aí, né, se perde ainda mais o controle com relação a que tipo de cuidados, que tipo de mecanismo de segurança efetivamente tu tens sendo utilizados ali e tudo mais. Então é bem delicado. >> E o maior >> o maior >> o maior foi da CM, né? >> Uhum. A gente teve a situação da CM que o pessoal conseguiu. Os criminosos aliciaram um funcionário. E esse funcionário, a gente não sabe exatamente os detalhes. (37:03) Mas o que se sabe aponta para esse funcionário começar então a coletar informações, executar comandos na máquina dele, comandos que eram dados pelos criminosos, entregar aos criminosos esses resultados e de alguma maneira franquear acesso à rede da empresa. E essa rede, dentro dessa rede da empresa, eles tinham acesso ao sistema que interagia com o sistema de Pix daquelas contas. Aquelas coisas todas. (37:33) E aí esses caras conseguiram fazer transferências multimilionárias, chegando à casa dos bilhões para casas de corretagem lá de criptomoedas, de cripto. Compraram cripto e transferiram a cripto. Teve algumas operações que foi possível ser canceladas. Outras foram de fato executadas e já era. (38:00) N, e a questão que nos chamou atenção até um pouco depois de quando aconteceu esse episódio, à medida que foram surgindo mais informações ali aqui ainda muito fragmentado, aparentemente esse cara estava na mesma rede do resto dos sistemas lá da empresa. Isso teria possibilitado fazer o acesso. (38:41) O que interessa nesse caso todo é que a gente acabou tendo novas regras do Bacen, né, Guilherme, em razão desse incidente, né? >> Muitas, né? Inclusive uma nova resolução agora de dezembro de 2025. Eu não vou dar o spoiler, mas vamos falar aí em 2026 sobre essa atualização da política. Ou seja, quem lida aí com instituições financeiras, bancos, enfim, vai precisar atualizar suas políticas de segurança. (39:17) Já antecipo, porque uma série de novas regras foram impostas aí. Não sei se esse um dos uma das consequências, né? Eh, e a gente também teve ainda sobre vazamento ou reconhecimento pelo STJ, né? Eu acho que foi uma das decisões bem importantes. Claro, atrás da inconstitucionalidade do artigo 19 do Marco Civil. (39:47) Essa foi uma das decisões mais importantes que reconheceu que no caso de vazamento. Ou seja, quando um vazamento habilita uma fraude bancária, é bem importante destacar, porque eu posso ter uma fraude bancária em que não há o vazamento de dados bancários e o criminoso ele simplesmente vai tentando lá e acha um correntista do Banco do Brasil, né? (40:07) Aquelas ligações que você recebe. O cara nem tem conta do Banco do Brasil. Ou você pode ter vazamentos que permitem, que habilitam a fraude bancária. Ou seja, o sujeito sabe. O caso, nesse caso aqui era isso. O sujeito sabia o valor do financiamento, o número de parcelas, aquela coisa toda. Eu até dei um curso para os magistrados aqui da JURES do Rio Grande do Sul. A gente conversou um pouco sobre isso. (40:28) Tem que ter um certo cuidado com a prova, né? Ah, teve um vazamento do, ele sabia qual era o saldo do financiamento. Tem que ter um certo cuidado porque ele pode saber o saldo do financiamento, por exemplo, invadindo o e-mail do próprio correntista, né? >> Pode acontecer, >> né? Não, não, aquela informação não está exclusivamente no banco. Mas enfim, esse é um outro problema. (40:53) Eh, e aí reconheceu que há dois danos autônomos, um patrimonial e um extrapatrimonial. Ou seja, presunção de danos morais nos casos que há o vazamento habilitado, a fraude habilitada pelo vazamento, quando esse vazamento se dá pelo banco, né? >> Uhum. Ainda em LGPD, Vinícius, a gente teve algumas questões interessantes lá no início do ano. (41:27) Um procedimento, não, processo instaurado, foi instaurado em 2023, mas culminou em 2025 numa fiscalização da ANPD sobre as farmácias, Raia, Droga Brasil, Stocks e Febrafar. Encontraram problemas graves: coleta de dados sensíveis sem consentimento. E aí se colocou em cheque a própria ideia do consentimento ou a liberdade do consentimento, a validade do consentimento. Porque você tem ali a compra de remédios, né? (41:53) E a gente sabe que o remédio muitas vezes vai ser ali para não somente para a manutenção da saúde, mas em última análise para a manutenção da vida da pessoa. Então talvez a ideia de liberdade do consentimento fique afetada por conta disso, né? Problemas de granularidade em que o consentimento não era granularizado e tal. (42:27) E bom, e aí me chama bastante atenção que apesar desse esforço da ANPD, isso não mudou, né? A gente falou sobre isso ali no início de 2025. Hoje mesmo fui na farmácia agora ao meio-dia. Fui comprar desodorantes, né? E lá na caixa, a mulher nem me falou. Eu cheguei no caixa, ela já me pediu o CPF. Ou seja, isso, né? Se a ANPD não partir para medidas mais enérgicas, acredito que não vai mudar, né? (42:59) Também eles fizeram uma fiscalização interessante em 20 empresas de grande porte sobre a questão da presença do encarregado e da nomeação, da daquelas regras que eles já têm, já são bem conhecidas, mas que é sobre a transparência na comunicação do nome do encarregado, dos contatos. Então encontraram problemas lá em TikTok, Dell, Serasa Vivo, Telegram, Uber e o X, antigo Twitter. Tiveram que regularizar. (43:04) E a gente comentou também lá no 397 um problema que eu acho que vai piorar agora em 2026, que é a biometria em condomínios. Primeiro que é a festa da biometria, né? Coleta indiscriminada de tudo é biometria. Mas a questão dos condomínios me preocupa bastante porque são ambientes assim que não é um ambiente muito propício para boas práticas de segurança da informação e muitas vezes você sequer pode evitar. (43:48) Né, você chega, você vai visitar um amigo lá que tem biometria, acabou, meu amigo. Você vai, né, e a festa. A festa da biometria com IA e outras coletas de dados é um negócio, um dos grandes riscos da IA. Que todo mundo que tu assim da desses Dario Amodei da vida, ah, esqueci o nome, o Geoffrey Hinton e outros caras, sabe? Que são referências aí no mundo sobre IA. Um dos grandes riscos é justamente essa possibilidade de monitoramento de surveillance, né? (44:21) Surveillance jamais visto assim, um negócio num nível que a gente não imagina. Tu me falou um negócio muito interessante que eu vi ontem. Estava fazendo comida e botei no Fantástico ali. Não, muito tempo que eu não via o Fantástico. Daí botei e estava passando. Eu não vou lembrar qual era o estado. Mas uma da uma concessionária, essas concessionárias, o pessoal elogiando isso, né? Claro, as pessoas precisam ser multadas efetivamente quando cometem infrações. (44:52) Não, não há discussão sobre isso. Não, não estou indo contra isso. Mas a questão é >> câmeras. Ah, a primeira concessionária que tem câmeras com inteligência artificial. Então com essa sacada, fica lá a câmera e a câmera busca identificar se tu está sem cinto ou se o cara está usando o celular. Negócio fácil de fazer funcionar, né? Então ele botou lá e aí agora nesses 30 minutos, sei lá quantos minutos tiver aqui, 30 pessoas, né, tiveram infrações só com a câmera. (45:27) E ela está começando o seu funcionamento e fica, ó, que legal. Todo mundo batendo palma. E veja, tem as pessoas têm que ser efetivamente multadas, né? Mas eu não notei ali nenhum aviso, nenhum alerta. E veja, você perde toda aquela questão que a gente já vem debatendo desde o início da proteção de dados, do nascimento da disciplina da proteção de dados pessoais, que é o fato daí sim desse monitoramento indiscriminado, né? (45:52) Um mundo em que todo mundo vai ser monitorado o tempo inteiro. Um mundo. E aí tem aquelas metáforas lá do panóptico e tudo mais. Ou seja, o estado vai saber o que você faz o tempo inteiro. E aí o mínimo desvio você vai ser multado. Tem que ser multado, não é? Essa não é essa questão. Mas é essa supervisão, esse alcance que, propiciado agora, um dos riscos da IA, né? (46:22) Eh, então eu me torci um pouco a orelha porque não vi, não trouxeram nenhum, uma pessoa ativista, um advogado, alguém ali para falar sobre os riscos da vigilância. Eh, geopolítica. A gente já está falando sobre geopolítica aqui, né? Mas já te passo a bola, Vinícius, porque no episódio 389 a gente. E é engraçado, né? Parece que faz muito tempo. E o cenário já mudou, né? (46:48) Mas foi o problema das tarifas, né, Vinícius? >> É, mudou, mas não está resolvido, né? >> Não, não está resolvido. Mas mudou bastante, não é mais >> mudou. Mudou bastante. Sim. É, sim. O Trump na época lá tinha botado 125% de tarifa para a China e estava ameaçando 150 até 200, né? >> Então deu uma situação bem séria ali. (47:20) A gente comentou da tentativa do Trump e ele continua assistindo isso. Eu não estou dizendo que ele está errado, tá? Acho que o Brasil deveria fazer a mesma coisa. >> Eh, o Trump está preocupado em produzir chips, semicondutores estratégicos dentro dos Estados Unidos para não depender da produção feita em outros países. Então hoje a gente comentou o caso da TSMC que fica em Taiwan. (47:50) Né, que tem aquela, a tecnologia ASML holandesa que faz o esquema para a gente poder fazer os chips com a densidade, com a tecnologia que precisa para a gente conseguir o nível de integração que é necessário. E então a receita está em Taiwan e os minerais estão na China, né? E a China para dar nos dedos dos Estados Unidos, para dar o troco, disse: “Ah, então nós vamos parar de exportar. Vamos começar a controlar a exportação de terras raras”. (48:19) E o que mais chamou atenção foi que entre essas terras raras, as que são necessárias para fazer aqueles ímãs que são muito fortes, o neodímio. Que ela é para tudo. É para é para caças. É necessário para fabricar aviões. Tu precisa disso. Para fabricar carros precisa disso. Isso para tudo, tá? Tem um imã desse de neodímio em algum canto aí. Então a China começou a controlar isso. (48:44) E então isso acabou virando uma moeda para o Brasil na negociação que o Brasil tem terras raras mas não explora adequadamente ou no nível que poderia estar explorando. E então o Brasil está no meio ali. Vamos ver o que vai acontecer, porque a gente tem, por um lado, não sei se tens acompanhado, mas por um lado tem a China querendo, ah, querendo implementar, querendo fazer linhas ferroviárias, fez aquele porto gigante lá no Peru, né? (49:10) Então eles têm uma ideia bem interessante de cruzar a América do Sul com um trem, ligando aquele porto, acho, se não estou enganado, ao porto de Santos aqui no Brasil. Então imagina, tu cruza o continente sem passar pelo canal do Panamá, né? Ah, então e ao mesmo tempo, nessas últimas questões que a gente teve aí, políticas mesmo, o Trump se aproxima. O Trump e o Lula se aproximam. (49:33) E começam a discutir terras raras. E naquela simulacro de doutrina moral, de olhar de novo. Ou seja, os Estados Unidos quer recuperar a influência sobre a América Latina e a América do Sul, e estaria aí nesse planejamento não deixar a China. Tipo, a China já levou o 5G, e a China levar agora a infraestrutura, por exemplo, de transporte. (50:04) Mas enfim, vamos ver o que vai acontecer. Eu acho que nós deveríamos estar a ter uma fábrica da TSMC também aqui, tá? Eu acho que nós precisaríamos disso, tá? Hoje a gente, os serviços de nuvem. Não é difícil a gente olhar para os lados aí, ver quais são os principais serviços de nuvem no mundo e utilizar as coisas no Brasil. São serviços de nuvem estrangeiros, tá? (50:24) Ah, tem alternativa nacional. Tem, mas vamos lá, né? Não, não é. É difícil tu comparar a não ser em casos muito específicos. Então é um problema que a gente tem. A gente vai ter que lidar com isso. Não tem jeito. Então guerra comercial, tarifas atingiu em cheio a tecnologia >> e as próprias sanções, né? Uma das preocupações que a gente (50:52) Diga, não. Só complementar uma coisa. Algo que a gente está sentindo agora, é já estava sendo anunciado. A gente está sentindo agora. Memória, memória. >> Esses dias estava olhando 32 GB DDR5, custando R$ 3.200. Uhum. >> N. Então a gente tem uma demanda. A gente está com uma demanda muito grande sobre chips de memória. (51:13) E isso está para IA e para data centers, para servidores, etc. E isso está sugando a capacidade de produção dessas memórias no mundo. >> E aí o resultado está ficando cada vez mais caro comprar memória. Isso, né? Você vai montar o seu PC de. Se não montou, monta logo, porque vai aumentar ainda mais, porque já aumentou. >> É. E pelo que tudo indica, não vai ser resolvido isso em 2026 ainda. (51:54) Porque as plantas, elas precisam se preparar para aumentar a produção. E é mais um aquele efeito buraco negro, aquele efeito predatório da própria IA, né? E você tem aspectos também de ambientais, mas também agora econômicos. Só para destacar a questão do neodímio, de neodímio, entre outras coisas. Fones de ouvido, celulares, sim. >> Eh, ressonância magnética, >> tratamento de água para desencrustração de minerais. (52:20) E esses imazinhos que a gente tem em casa de fechamento de caixa, pastas, materiais gráficos. Isso também é feito de terras raras. Eu tenho alguns aqui na minha volta. Estou aguardando já para o investimento. >> Exato. É. No futuro, quando o mundo deixar de existir, a gente vai ficar recolhendo esses lixos eletrônicos para vender depois, né? (52:47) Que nem o joguinho aqui. >> É tipo uns jogos aí que tem por aí. A gente faz esse tipo de coisa. >> E ainda, só para fechar essa parte de guerra comercial e tarifas, a gente também aventou antes de Estados Unidos e Brasil amenizarem a crise, os possíveis efeitos de sanções americanas…. (53:18) Lembrando que serviços de nuvem e outros serviços gerais de tecnologia, enquanto americanos, poderiam passar por algum tipo de embargo, talvez, né? E até se chegou a se discutir quando do caso da Magnites que caiu também. Eh, do Alexandre de Morais e da esposa. Eh, chegou-se a ventilar na época lá que vão interromper o uso do e-mail da Microsoft para o STF. (53:51) Então coloca mais uma vez o país numa situação de dependência muito delicada. A gente lembrou e lembra sobre o papel que o software livre teve no Brasil por muitos e muitos anos. E aí ali pelo governo Temer que se entra de cabeça nesses serviços americanos. É uma questão de soberania no final das contas. E como segurança, serviços e tal, está também entra um pouco na no âmbito da geopolítica, né? (54:32) É. Eh, Vinícius, eu vou pular direto ali. É bastante coisa, tá, gente? Mas assim, ó, a gente está fazendo uma curadoria enquanto vai gravando. Que que foi o Signal Gate, hein, cara? Signal Gate. O que aconteceu foi que o pessoal que está lá da equipe do Trump, eles estavam para fazer um ataque. Tá, os Houthis lá no, no Yemen, se não estou enganado. (54:32) Ah, e eles estavam discutindo isso num grupo de Signal, tá? E aí dentro do grupo de Signal, por alguma razão, um dos personagens que estavam, das pessoas que estavam nesse grupo, ah, acrescentou sem querer, acho, ou se acha, o jornalista Jeffrey Goldberg. Esse jornalista, ele ficou por 13 dias acompanhando. Ele não acreditou muito. Ele achou que fosse uma piada, uma pegadinha. (55:11) Mas ele foi acompanhou por 13 dias os caras discutindo os ataques e os armamentos, horários, alvos e tudo mais. Até que ele teve a confirmação que era verdade quando aquilo que ele estava vendo ali se concretizou, tá? E aí foi um escândalo, né? O pessoal ah falando que aí tentaram inventar várias coisas. Né? Que torcer a maneira de falar, a maneira como o cara teria sido incluído. (55:29) Mas no final das contas, a gente tem aquele tripé que a gente tem de mecanismo, política e cultura, né? A cultura de segurança aí claramente falhou, foi pro Belelu, porque o cara adicionou aí alguém que ele não verificou antes. Né de quem era o dono no número, quem que ele estava efetivamente adicionando. Ah, política a gente não sabe. Mas a gente imagina que o governo americano tem uma política muito clara sobre em quais canais eles podem discutir esse tipo de assunto. (56:01) >> Então provavelmente a cultura aí levou uma violação da política. A, creio que seja isso, tá? Não, não duvido que eles não tenham uma política que de segurança que defina exatamente quais são os meios permitidos. Né? E mecanismo aí não teve muita efetividade, porque os caras estavam discutindo assuntos confidenciais, violando a política. (56:33) E ninguém fez nada. Não aconteceu nada. Ninguém detectou nada. Ninguém descobriu nada até que o próprio jornalista venha público e denuncie o que aconteceu. Então foi um caso aí de falha total de segurança. Só lembrando que no último caso agora do ataque dos Estados Unidos à Venezuela, eu vi uma notícia hoje de que alguns jornalistas teriam descoberto o ataque e decidiram ficar em silêncio. Não comentar nada. Ao contrário do que aconteceu no Signal Gate, né? (57:04) >> É. >> Eh, Vinícius, a gente pulou uma aqui que é a da crise do CVE, da crise do CVE, né? Ou seja, antes ainda ali da questão da geopolítica, né? >> É, essa, essa é interessante que essa atinge diretamente de segurança, né? >> Uhum. Pode comentar sobre ela. Foi uma das ações do DOD, do DOD, quando ainda era comandado pelo Elon Musk na sua meteórica participação no governo e curtíssima participação. (57:31) >> Não durou muito a amizade dos dois. É, cara, quem é da área de segurança aí e deve conhecer a Mitre. Se você não conhece, já sai procurando porque você já está atrasado, tá? Tem que conhecer a Mitre. E entre as diversas iniciativas da Mitre tem lá o CVE, tá? Ah, e o CVE é uma, é uma, é um ponto de referência, vamos dizer assim, comum para nós podermos falar sobre vulnerabilidades. (58:24) Tá? E sobre vulnerabilidades efetivas encontradas em software, né? Então uma fazer poder a gente poder falar de uma vulnerabilidade específica que existe num Oracle, num Linux, num Windows, etc., a gente precisa do CVE. Eh isso é uma é a língua comum para a gente se referenciar a uma vulnerabilidade específica. E essa base de dados ela não é mantida de graça. (58:59) Ela precisa de dinheiro para ser mantida, tá? O acesso é gratuito. Você pode e deve utilizar. Mas isso envolve dinheiro para manter essa base. E o DOD achou que deveria cortar o financiamento da Mitre para manter o CVE. E aí a Mitre soltou uma nota dizendo: “Olha, o financiamento foi cortado no dia tal, agora não lembro o dia exato. No em tal dia, à meia-noite do dia tal, a gente não tem mais financiamento e vai sair do arócio, tá?” (59:35) Na última hora, eles renovaram por 11 meses, que aliás ainda não está vencido. Mas a renovação está quase vencida, né? Então eles renovaram por 11 meses. Vamos ver o que vai acontecer quando essa renovação expirar, quando dermos 11 meses. Mas é uma coisa um pouco preocupante. Ou seja, a gente ter um esse tipo de recurso importantíssimo para a segurança da informação centralizado na mão de um governo que pode do nada, por questões internas, decidir não manter mais. (60:08) Tá? E aí a importância dessas iniciativas multinacionais ou multilaterais, vai ser que a gente seria o mais adequado. Mas em que >> não estatais, né? >> Não estatais e não dependam de um estado. É que tu tem um conjunto, tem um grupo, uma instituição neutra em termos de países. Ou que tem uma certa resiliência com relação a esse tipo de assédio. (60:59) E que elas possam se manter sem que venha um governo qualquer e resolva detonar com uma iniciativa como essa, né? >> Só lembrando que os Estados Unidos durante esse último ano também se posicionaram contra algumas dessas organizações não estatais. Né? Tribunal Penal Internacional, Organização Mundial da Saúde e tal. Que inclusive eles eram mantenedores da OMS também. (61:19) Agora não tenho certeza se cessaram as contribuições, mas enfim. É uma mudança também nesse sentido, né? Eh, e a gente comentou lá no 394, Vinícius, um pouco sobre a questão das VPNs, limitações de VPN. Porque elas têm sido pintadas aí em alguns podcasts e programas no YouTube aí, na internet de maneira geral, como grandes, fazendo coisas que não fazem. (61:37) Você já comentou mais de uma vez sobre esses sobre essas limitações que as próprias VPNs têm. Só lembrando, antes de te passar a palavra. Né agora que a gente está entrando em >> nessa época mais de viagens assim, algumas pessoas às vezes vão até fazer viagens internacionais. Eu sempre recomendo o nosso episódio 215, Vinícius, lá de 2019. A gente está velho, né? Que é segurança de informação para viagens. (62:08) Ele ainda continua atual e uma das questões é use VPN. Você vai para aeroporto, restaurante, Airbnb, hotel. Tem que ter uma VPNzinha ali funcionando. Mas não é bala de prata, não é. Não, não é bala de prata. E eu comentei isso no episódio. Eu até falei lá: “Tá me incomodando muito esse assédio da soluções de VPN em podcasts. Tanto no, tanto áudio quanto vídeo, tá?” (62:31) >> Uhum. >> E que tu vê pessoas que são sérias. Ah, falando daquilo que não sabem e simplesmente seguindo o scriptinho da propaganda, tá? E o script da propaganda fala de coisas que de fato não são bem verdades, tá? Então tem que ter o pezinho no chão para usar VPN. Não vou dizer tudo de novo. Mas você pode ir lá no nosso episódio sobre isso. (63:00) Ah, a gente recomenda uso de VPN? Sim, a gente recomenda uso de VPN. Tem algumas melhores, outras piores. Tem, tem algumas que são mais fáceis de usar, outras mais difíceis. E tem algumas que os IPs estão tudo bichados na internet. Tu tenta navegar por elas. Tu não consegue fazer nada porque os IPs delas estão tudo bloqueado em serviço de streaming e por aí. (63:22) E algumas das grandes aqui ficam anunciando, tá? O que você tem que entender tá? É que a VPN ela é extremamente útil para aumentar a tua segurança. Ela não vai te garantir a segurança, tá? E aumentar a segurança significa o seguinte: que tu no teu celular ainda tem que ter cuidado daquilo que tu instala no teu celular. Que tu instala no teu notebook. (63:37) É bom que tu tenhas um antivírus no teu notebook. Que tu criptografe o, se tu usa Linux, criptografa o disco. Se tu usa Windows, criptografa o disco usando Bitlocker, tá? Para que se roubarem teu notebook, a gente não, as pessoas que roubaram não tenham acesso aos teus dados. Depois tu tem há ter outro uma série de outros problemas, tá? (64:22) Então assim, não é trivial para alguém ver a tua conexão e roubar os seus dados só porque tu conectou num Wi-Fi diferente, tá? Tem uma série de ataques. Dá para fazer, dá para fazer, tá? VPN é melhor. É melhor. Mas não é. A VPN não vai resolver todo o problema. Então muito cuidado. E outro cuidado que tem que se ter, Guilherme, pessoal também. (64:40) Eh, propagandeia usar VPN para tu contratar serviços de forma mais barata no exterior. Então tu faz uma VPN daqui para não sei aonde. Tem um desconto maior. E inclusive para compra de passagens, tá? >> Uhum. >> Tem que cuidar porque vários serviços têm políticas claras sobre o uso de VPN para isso, tá? O Google foi um que fez isso com YouTube. (65:03) Então para quem tem conta paga no YouTube e tu fez a conta paga usando VPN para pagar menos, o Google já botou lá nos termos de uso que ele pode uma hora para outra encerrar tua conta. >> Uhum. >> Ah tu violar as políticas. E não é difícil, gente. Isso vai acontecer. Não é difícil por uma empresa que vende passagem aérea, que faz reserva em hotel, botar isso nas políticas de uso. (65:22) Aí você faz uma compra escondendo a tua origem real, usando uma VPN. E aí depois na hora de usar tua passagem, depois na hora de usar tua reserva, tu pode ter uma surpresa que não é legal, entende? Pode ter uma surpresinha aí lá fora. >> E pior ainda quando tiver no, quando tu for fazer o utilizar o teu, o tua compra. (65:39) Esse não. Essa tua compra aqui tu fez. Tu fraudou o teu endereço de origem e tu compraste com condições que não estavam disponíveis para o teu país quando tu fez a compra. E a gente >> portanto a gente cancelou. Deportado. >> É, não sei. Não, não se. Mas não, mas assim, tu quer, tu pode pagar agora >> duas vezes mais do que tu ia pagar para a gente resolver o teu problema aqui. (66:04) Então cuidado, gente, tá? Tu usar VPN para mascarar a tua origem para fazer a compra de um produto ou um serviço pode violar os termos de uso desse produto e serviço. E você pode depois ter um prejuízo em razão disso, tá? Por outro lado, >> por outro lado, né, é bem reconhecida a prática de geopricing, de geopricing, e >> alguns gelockings, gelockings, >> mas geopricing. (66:24) >> E isso eu >> agora eu estou pensando se é se eu falo ou não. Mas eu acho que eu posso comentar isso porque eu não acho que eu estou violando o streaming lá que eu assino, que eu pago e tal. Mas eu queria assistir um que é um negócio muito desagradável dos streamings, né? Já que tu está falando de de VPN. Eu vou reclamar de streaming agora. (66:44) Que é que você tem certos e por questões de direitos autorais, licença e tudo mais. Você tem um conteúdo que está à disposição. Tem no streaming. Mas só está à disposição em certos países, né? Não está à disposição no Brasil. E aí você paga de repente lá cinco streamings e não consegue ver. Não consegue ver coisas muito básicas. (67:05) É, é curioso. Você tem que ir correndo atrás e procurando e para. E aí esses dias acessei lá pela VPN aí, pelo computador para ver se acabou não funcionando. Enfim. Mas é um negócio desagradável também. Eh, Vinícius, vamos passar para a regulação de internet rapidinho, né? Acho que também aí nesse caso assim o grande tema foi o a inconstitucionalidade do marco civil da internet. (67:45) Que eu fechei aqui a página, mas tudo bem. Eh, e esse reconhecimento se deu lá, a gente gravou em junho, e falamos sobre isso ao longo do ano também. E é a inconstitucionalidade do artigo 19. Que é aquela história de você precisar de ordem judicial ou não para retirada de certos conteúdos do ar, né? É o tema 987, 987 do STF e 533 também de repercussão geral. (68:28) Eh, e aí o que se concedeu, o que se decidiu foi o reconhecimento ali de uma inconstitucionalidade parcial e progressiva no sentido de que a partir de agora em certos casos, vai ser possível realizar a retirada de conteúdos somente pelo chamado notice and takedown, seguindo a regra do artigo 21, né? (68:51) Então, quais casos são esses aí? Seria o rol taxativo lá de condutas e atos antidemocráticos, induzimento, instigação ao suicídio, terrorismo, discriminação em razão de raça, cor, etnia, religião. Eh inclusive condutas homofóbicas, crimes praticados contra a mulher e por aí vai, né? Fica lá é possível ler também. Então essa acho que foi a grande decisão do ano. (69:07) Mas assim com uma certa, teve a decisão. Se discutiu muito. Saiu lá o acordão completo com 1000 e poucas páginas, que ninguém vai ler 1000 e poucas páginas. Vão usar IA para sumarizar isso de alguma forma. Enfim, né? Eh, pornografia infantil, claro, isso já era já era no sentido do aí pela via do ECA e tal. (69:34) Eh, e aí vem a questão do ECA Digital. Esse foi também um tema bastante importante. Você que nos escuta ao longo desses, desses, eh quantos anos? 15 anos acho. Vinícius que a gente está gravando, é 12 para 26, 12. >> 14 anos. >> Você vai notar um corte aí. Você deve ter notado já um corte, porque o Vinícius sem querer colocou, suspendeu a máquina sem querer. (70:07) Mas estamos de volta. E ele fez o cálculo e deu nesses 14 anos que estamos gravando. Então o Segurança Legal. Nós falamos muito sobre a proteção da criança na internet. Tem diversos episódios sobre isso. É um tema que é muito caro para a gente. >> Eh, e aí veio esse ano de uma forma muito estranha, que foi um vídeo feito pelo influenciador Felca. (70:30) E tal até não conheci o cara. E na verdade não conheço a grande maioria desses influenciadores, né? Pode ser um sinal também da idade. Enfim. E o, mas enfim, o cara fez lá um vídeo. Teve milhões de visualizações. E aí o, o Brasil ele cada vez, não sei se só o Brasil, muito ele é muito receptivo, né? É uma coisa saindo do Fantástico. Tem um vídeo de milhares de visualizações e tal. (70:51) E aí o Congresso se mexe. Mas enfim, eu achei surpreendente, que já era um projeto de lei que estava tramitando lá e que foi muito rapidamente aprovado. Ficou conhecido como ECA Digital. A pessoa fala em Lei Felca. Eu prefiro ECA Digital. Nada contra o cara lá. Enfim. Mas acho que ECA Digital que é o nome Estatuto da Criança do Adolescente Digital na Lei 15211. (71:13) Eh, já tem pessoas escrevendo, estudando esse agora lei. Antes, antes projeto. Mas agora a lei entra em vigor 6 meses depois da publicação. Né? Setembro, outubro, novembro, dezembro, janeiro, fevereiro, março, agora de 2026, né? (71:27) Eh, e isso então falamos lá no episódio 400 e também o judiciário, né, ampliou nesse ano o uso de IA. Eh, quem acompanha jurisprudência, quem lê a jurisprudência consegue perceber uma certa tendência assim de um de sumarizações muito parecidas, né? Mas é aquela coisa. Nós temos muitos juízes, muitos servidores, muitas pessoas usando IA de formas diferentes. (71:53) O CNJ aprovou uma regulamentação, uma regulamentação, né, veda inclusive com vedações de reconhecimento de emoções, ranqueamento social, soluções que impeçam revisão humana. Mas ainda me parece que há uma certa falta de transparência, porque o juiz não é obrigado a informar o uso da IA, qual modelo usou, para que usou, qual prompt usou, né? (72:18) Eh, e isso também coloca em cheque até um próprio, e claro, em processos mais complexos, processos penais, por exemplo, tem aquela ideia de paridade de armas, né? Eu acho que deveria haver processos muito mais transparentes assim para que o Ministério Público, juiz informassem o uso, sabe? (72:42) Eh, creio eu, >> esse negócio, esse negócio, embora eu não seja da área do direito, esse negócio da paridade de armas que tu já me falou mais de uma vez, já comentou comigo e tal. Ah essa talvez seja uma parte que me preocupa bastante, tá? Porque conforme a grana que tu tens tu consegue investir mais em IA. (73:16) >> Uhum. Em modelos melhores, em mais tempo de modelos melhores. Mais tempo não, mais tokens de modelos melhores. No final das contas é a quantidade de token que vai determinar custo, tá? Então ah conforme tu consegue investir mais em IA. E isso só vai, ah, mas a IA ainda é ruim para jurisprudência. Aquelas coisas que a gente já sabe que, né? (73:42) Hum. >> Mas assim, eu gosto muito do que Itam Molic coloca no livro dele com inteligência. A IA que tu põe na tua cabeça. Que a IA que tu estás usando hoje é a pior que tu que tu vai usar daqui para frente, né? Eh, ou seja, ela só vai, ela só vai melhorar e muito. (74:11) E a gente tem aí a prova disso em 4 anos. Né? 22 para 26, né? Sem contar 26, 3 anos, né? É. Novembro foi novembro de 22. Novembro de 25. A gente fechou, 3 anos aí. Então ela já melhorou muito e ela vai agora, ela vai melhorar mais ainda e mais rápido e ela vai conseguir fazer essas coisas que hoje já está patinando. (74:42) Ela vai conseguir fazer é bem tranquilo. Ela vai fazer. A questão é sem essa transparência que tu colocas, Guilherme, sem saber o que foi utilizado, o que foi pedido, o que que o juiz orientou a IA, porque no final das contas ele vai estar orientando a IA para chegar num dado, ah, eu acho que nós vamos ter seríssimos problemas, tá? (75:12) >> Uhum. Que em que não só a capacidade do profissional envolvido vai estar envolvida. É claro que tu tens profissionais, advogados com uma certa capacidade. Tem outros advogados com mais capacidade, maior especialização, etc. >> Claro. >> Mas que entraria na própria questão do dinheiro que você colocou antes, né? (75:28) >> Exato. Já a gente já tem isso, né? Só que nós vamos ter ainda uma outra que é a questão da IA que eu posso pagar. >> Uhum. Então e que já é um problema inclusive para na educação, para estudantes de graduação e do ensino médio. >> Porque uma coisa é tu usar uma IA que não é paga, OK? Tu tem o modelo lá, etc. (75:51) Mas tem uma série de limitações de tempo de uso, de não sei quê, etc., do modelo que tu pode usar. Outra coisa é tu dar para para um outro aluno esse outro modelo, um outro modelo melhor, com mais tempo, etc. E poder usar mais. Nós vamos ter inclusive disparidade nisso aí. Mas enfim, é mais um pouco. (76:13) >> Mas ao mesmo tempo >> mais um é aí a tecnologia ela, aquela ideia de que eu vou resolver todos os problemas. O solucionismo, que eu vou resolver todos os problemas com a tecnologia. E na verdade a tecnologia não só claro que ela resolve problemas, mas ela amplifica outros, né? E a desigualdade. Toda essa questão que nós já conhecemos da educação no Brasil. A IA vai continuar amplificando isso, né? (76:44) Se você for pensar que a forma como a gente usa IA envolve muito você saber o que pedir para ela e ter competências linguísticas, eu diria, quem tem competências linguísticas mais avançadas vai se sair melhor porque vai conseguir dizer melhor e explicar o que precisam. (77:05) É >> então isso vai afetar pessoas. Mas assim a gente estava falando sobre IA no judiciário. Teve uma apelação cível aqui, Vinícius, >> eh aqui do Rio Grande do Sul. Eh de dezembro agora de 2025. No sentido de que reconheceu a nulidade de uma sentença. Ou seja a apelação é um recurso. Né o sujeito né perde ação. Para quem é do direito. (77:32) Né ele apela. Ele, né, a juíza, entra entra com recurso. E nesse recurso se reconheceu a nulidade da sentença. Por vou ler aqui porque são robustos os indícios de uso indistinto de ferramentas de inteligência artificial para fundamentar a decisão. Não que isso não seja possível. (77:53) Aí diz aqui o TJ já tem uma ferramenta e para. Mas a sentença nula porque não foi elaborada com base no processo. Além disso, os precedentes jurisprudenciais citados não existem ou não conferem com o texto oficial da ementa disponível no site do TJ. Então pela falta de fundamentação jurídica. Inclusive é um direito que você tem à fundamentação. Porque você só vai conseguir recorrer se ela for bem fundamentada. (78:27) Aqueles direitos relacionados ao processo civil, instrumentais. Então nem tudo está perdido. Mas notem quantas outras sentenças que eventualmente isso pode ter acontecido e as partes não se deram conta justamente pela falta de transparência. Então falamos sobre isso ali durante o ano também. (78:51) Eh, temos mais dois blocos aqui. Mas aí a gente tem as práticas de segurança. Uma delas bastante importante aqui foi o lançamento do OWASP Top 10 para LLMs, né? A gente falou sobre ele também em novembro, né, Vinícius? Um pouco sobre ele em novembro, né? (79:05) Não, não, não fizemos um episódio ainda inteiro sobre ele. Mas acho que 2026 podemos fazer isso, né? >> É ah, sem dúvida nenhuma. A gente já incluiu esse checklist nos nossos pentests. A gente já começou a avaliar essa, eh esse Top 10, né? Inclusive quando ele começou a ser as os primeiros versões e tudo mais. A gente já começou a se ligar nele. E a gente já incluiu por fazer. Agora estou fazendo um jabá da Brown Pipe, tá? (79:28) Brown Pipe faz pentests de aplicações web, aplicações mobile e infraestrutura. >> Então você a gente já está usando entre as diversas outras checklists, a gente já está usando essa checklist também, né? Essa esse Top 10 aí como um checklist. E foi muito importante para ele. Ele vai ter que sofrer alterações. (79:46) Vai ter que ser atualizado ainda mais nessa nesse cenário de LLM com uma mudança tão rápida, né? Então >> Uhum. >> Ele vai, imagino eu que ele vai sofrer alterações mais rápido do que o nosso clássico OWASP Top 10. >> Hum. >> Que a gente saiu do, acho que o último foi de 21. E agora nós estamos com um 25 >> né? Top 10. É saiu do 2017 lá. E a gente também teve. (80:17) Eh isso é uma coisa que me preocupa bastante, sabe, que é a segurança no GOVBR. E lá no episódio 392, ainda em maio de 2025, a gente falou. A gente falou sobre esse incidente, né, de que fraude no SIAF com desvio de 15 milhões. Mas ainda algumas burlas de biometria >> eh no GOVBR. (80:44) Eh, e vejam todo mundo aqui que nos ouve. Sei lá. Eh conhece o GOVBR, usa o GOVBR, sabe das possibilidades que você pode, né, assinar documentos, fazer procurações, vender veículos e tantas outras coisas ali, né? São 4.500 serviços que são habilitados pela via do ou autenticados pela via do GOVBR. (81:05) Falou-se muito pouco sobre isso. Me parece que por motivos óbvios o governo não tem interesse em publicamente ficar ventilando as vulnerabilidades de um sistema e que se põe uma confiança nele que muito grande. Muito grande. Que se mostra claro que também, por outro lado, não existe sistema perfeito e tudo mais, né? (81:27) Mas assim uma fraude cometida pela invasão do GOVBR pode impossibilitar a defesa do usuário, né? Então isso eu acho que foi um dos temas bem delicados de 2025. Mais uma vez acho que se falou pouco sobre ele, né? (81:44) Eu não sei se você quer comentar um >> Não eu acho que isso aí eu acho que infelizmente isso entra um pouco na esteira daqueles debates que foram legítimos que foram estragados ao longo dos anos aí. >> É >> né que é a gente acho que a gente pode legitimamente com real interesse de boa fé, né? Eh discutir a segurança desses sistemas que o governo utiliza e tal. (82:06) A gente já deixou muito claro a nossa posição em várias momentos aqui no podcast, né, Guilherme, que a gente já gravou mais de uma vez. E assim cara isto aqui é um tipo de situação que a gente teria que teria que ter mais abertura porque esse tipo de problema aqui afeta potencialmente de uma assim toda a população, né? Em termos potenciais, né? E de formas que são muito chatas depois de tu resolver o problema criado. (82:38) >> A parte da exploração de uma coisa assim, >> é. São 163 milhões de usuários, né? É >> eh inclusive eu tenho uma amiga minha lá da faculdade. Professora, né? Ela estava me contando que não vou falar o nome dela agora pelo detalhe. Mas enfim ela estava contando. Ah, precisei fazer um acesso ao GOVBR para fazer alguma coisa da aposentadoria da minha avó. (83:07) E aí ela era muito, por ela ser uma senhora e idosa assim, não tinha biometria dela cadastrada. Ela disse que foi um absurdo assim, né? >> Então até isso, né? Fraudes do INSS poderiam. Que que também houve nesse ano, né? Eh poderiam ser habilitados por isso. Eh mais uma a gente já falou sobre regras novas regras do Banco Central depois, né? (83:33) Esse era um dos temas também. A gente falou no episódio 401. Mas 2026 vamos voltar a falar sobre isso também. Até porque temos tivemos regras novas publicadas em dezembro. Mas uma questão que eu achei bem interessante foi a atualização da NR01. Quem é do direito do trabalho e RH e tal conhece bem. Que é a questão dos riscos psicossociais, né? (83:54) Ou seja, as empresas vão precisar começar agora a fazer essa gestão dos riscos psicossociais, né? Eh inclusive ela foi até era para entrar em vigor em maio de 25, foi adiado para maio de 26 essa atualização da Portaria 765. E mas o que chama atenção é que no ambiente no âmbito de segurança da informação a gente sabe que é um âmbito de grande estresse. De intenso estresse. (84:24) E a gente já viveu isso. Já conviveu com pessoas que viveram isso e eventualmente até acompanha isso também. Né tenta na medida do possível na nossa empresa. Eh fazer um ambiente que seja o mais propício e mais adequado para as pessoas que trabalham conosco e também para a gente, né, Vinícius, é uma questão do nossa valores. (84:49) Inclusive quando a gente fundou a Brown Pipe esse era um dos valores que a gente gostaria de >> faz parte do sujeitos que o pessoal negócio de falar. >> É, é, mas assim o por que que isso é importante? Por que a gente está falando sobre isso aqui? A gente falou lá no 390. É que isso vai influenciar também a forma como os gestores lidam com segurança da informação. (85:13) Porque isso vai começar a ser mapeado agora também. Então é um aspecto psicológico da segurança que por força dessa atualização da NR vai precisar ser endereçado. Por último, Vinícius Serafim, nós temos aqui. >> Sim, Guilherme Goulart. A questão do analfabetismo funcional >> eh, e a relação com a vulnerabilidade digital do INAF. Né >> e também sobre como a gente vai lidar com IA. (85:45) Esse é um tema que não somente a gente fala aqui no Segurança Legal, mas nas nossas conversas, né, Vinícius, quando a gente está ali conversando, enfim, é uma coisa que sempre volta na verdade. E eu acho que o grande. A grande questão é como é que a gente vai habilitar as pessoas em um cenário de Brasil aí que 65% da população estaria em níveis limitados ali de alfabetização. (86:12) Como é que a gente vai entregar IA ou fazer com que essas pessoas usem de forma produtiva? Porque vão usar. Não adianta. Não tem mais como voltar atrás. É uma luta assim, né? >> Enfim, mas esse foi um problema que a gente falou lá no episódio 393, né, Vinícius? Você tem é, Guilherme. Assim eu nem digo uma luta de voltar atrás. Eu não tenho intenção de voltar atrás no uso da IA. (86:42) O que me preocupa é que a IA afeta as pessoas de várias formas, né? >> Então a primeira que a gente já comentou inclusive nesse episódio aqui >> é a questão do próprio aprendizado. E então o pessoal delegando tarefas que eles deveriam fazer para aprender uma determinada área. Uma determinada área do conhecimento. A aprender vocabulário. Com se tu para vocabulário tu precisa. (87:11) Para pensar tu precisa de vocabulário, tá? Eh é muito importante. Tu precisa dos conceitos que as palavras representam e tu usa as palavras como ferramentas para pensar, para refletir. Então se tu não tem um vocabulário um bom vocabulário tu tem dificuldade para pensar, para estruturar o teu raciocínio, tá? (87:31) Então esse é um primeiro ponto. Ah a IA para funcionar bem, para tirar coisas realmente interessantes dela, tu precisa entender o que tu está fazendo. Pelo menos por enquanto, tu ainda precisa entender o que tu está fazendo. Entender muito bem. Entender os conceitos da tua área. Pegar os problemas. Eh organizar os problemas, né? Conseguir fazer as generalizações que um do necessário. (88:07) Né tu conseguir extrair de uma situação concreta as regras para um funcionamento daquilo. Tem várias coisas. Tem o pensamento computacional que entra aí que é bem interessante. É bem importante saber para usar IA. E então tu tu tens pessoas e empresas utilizando a IA assim espremendo ela no que ela tem de melhor. (88:25) >> Não só para matar trabalho, né? Não para matar trabalho, mas para fazer realmente o seu trabalho melhor. >> E ao mesmo tempo tem pessoas. E é a maior parte do uso, né? Aquele uso bem preguiçoso que tu chama. Abre aí. Larga uma pergunta lá e ela te responde tudo aqui. Faça um trabalho para mim. Não sei o resolve isso aqui para mim. Escreve não sei o quê, tá? (88:53) Então assim a gente sabe o que é o resultado disso. São coisas de péssima qualidade >> e que as pessoas nem sabem. Tu pergunta para ela o que que ela quis dizer ali e ela não sabe o que ela fez porque ela não fez. Ela literalmente não fez. Ela só escreveu um prompt lá. Não nem se deu trabalho de estudar aquilo que a gerou. (89:26) Então essa é a isso vai criar. A gente vai ter pessoas que vão ser muito hábeis para resolver problemas nas mais diversas áreas usando a IA. E tu vai ter pessoas que vão ser ainda mais incapazes de entender o que elas estão fazendo. E essas >> e por consequência, cada vez mais dependentes ou cada vez mais fácil, manipuláveis total e facilmente substituíveis. Porque uma pessoa que só sabe fazer isso usando IA. (90:02) Eu não preciso dela na empresa. Eu uso IA >> e eu pego a IA e dou para. Em vez de contratar 100, eu contrato 20 mais capazes que saibam usar IA. Então esse é uma das coisas que eu não estou dizendo que isso é bom ou que é ruim. Eu não estou fazendo nenhum juízo de valor aqui. Mas estou colocando aquilo que me parece que existe uma certa concordância a quando a gente pega pessoas sérias falando de IA no mundo, tá? (90:42) Eh, então o próprio Itam Molic, de novo, gente, eu recomendo fortemente aí para quem está na faculdade, quem está na escola, no ensino médio aí e tal, para os profissionais, fortemente que vocês comprem e leiam o livro “Com Inteligência” do Itam Molic, tá? A gente não tem cupom de desconto infelizmente. Mas o livro é muito bom, tá? (91:14) E então assim é esse é o problema que eu vejo, tá, Guilherme? É aí que está. Nós vamos ter uma galera aí que vai ficar passada nesse negócio de ah, porque ela não vai desenvolver direito o as habilidades que ela precisa para atuar numa dada área. Ela não vai desenvolver direito sequer a questão de organizar o raciocínio para problemas gerais, independente de uma área específica. (91:39) E essa turma vai ser muito facilmente substituída pela IA que a gente tem hoje. >> E não vai aprender, né? Porque assim você tem >> você tem áreas que são mais ou menos afetadas pela IA e as áreas são afetadas de formas muito diferentes, né? A gente conversava dia desse sobre IA e contabilidade, né? Que é um tema achei fascinante, né? As possibilidades aí envolvidas. (92:08) Eh, mas ao mesmo tempo você tem lá o dentista, né? Eh o dentista vai poder usar IA. Por exemplo para interpretar um exame, uma radiografia. Para ideia para ver uma. Já existe há bastante tempo, inclusive >> para guiar um procedimento no sentido. Ah, o que que eu faço quando eu tenho esse problema clínico aqui? Então você segue. Esse é aquele tratamento. (92:35) Mas em última análise você ainda vai estar botando a mão e abrindo o corpo humano, mexendo no corpo humano. O cara vai ter que aprender a fazer isso, né? Quanto não forem robôs fazendo isso. Robôs fazendo isso. É, tem robô fazendo cirurgia. É um troço assim que é acessível para >> Sim, sim. Sim, sim, né? (92:59) >> É mas uma das, uma das utopias, uma das utopias, se não estou enganado, do Dario Amodei, que ele escreveu. >> Ele escreveu um artigo que a gente comentou, inclusive algum episódio do Segurança Legal. Uma das coisas que ele coloca é que a saúde. Né o a gente está numa situação cada vez pior. (93:20) Né, que tem cada vez mais tecnologia para tratar de saúde, mas tem cada vez menos gente com dinheiro para pagar pelo tratamento. E os planos de saúde também, né? >> Exato. >> Tem a hora que eles são meio sacanas e tem a hora que é meio complicado. Tu cobre um valor X e aparece um tratamento que custa não sei quanto e tu tem que cobrir e daí tu te quebra também. (93:45) Então assim >> é >> a gente tem uma série de seguro. Né? É um seguro. >> É um seguro, né? Então a gente tem e esse seguro vai ficar cada vez mais caro. >> Cada vez mais caro. Então uma das coisas que pode acontecer com a automação, com a IA e tudo mais, é justamente tu conseguir dar mais acesso à saúde por um valor menor. (94:07) Então acesso à saúde para mais gente por um valor menor. E portanto mais acessível, né? E >> é, não vai acontecer, né? É, vamos, vamos ver o que vai acontecer. É assim >> é uma utopia, entende? Não estou dizendo que não vai acontecer. Estou dizendo que é uma >> cara, é uma coisa interessante. É uma, é algo bom se vier a acontecer, entende? (94:38) Então >> é aquilo que o é aquilo que o Paulo Renato sempre fala. Eu sempre gosto. Aliás um abraço para o Paulo Renato e >> o Dr. Paulo Renato foi esse ano. >> Dr. Paulo Renato >> foi esse ano. Né? >> Foi esse ano. Mais uma para mais um ponto interessante para a retrospectiva. Paulo Renato era doutor. É. É. (95:04) >> E ele disse é simples, mas é fascinante assim. Eh quais os problemas que a IA vai resolver? >> Aham. >> O judiciário está resolvendo problemas de IA, né? Pô você tem um monte de gente presa que não deveria estar mais presa, né? Com aquela história que a gente já conhece dos problemas do sistema carcerário brasileiro. Nós não estamos usando para isso, por exemplo, estamos usando para facilitar a vida do juiz. (95:34) E veja eu acho que tem que facilitar a vida do juiz mesmo. Ele tem que usar não, né? Mas a questão é quais os problemas que eu estarei resolvendo? Né, que nós estaremos resolvendo? Eh, poxa eu posso usar IA para verificar e para avaliar a integridade de informações. >> Uhum. >> Né? Eu estou usando aí, pelo contrário, estou usando a para produzir, né? (96:03) Agora com a Venezuela vi um vídeo ontem depois fui descobrir que era falso. A pessoa estava comemorando e tal. Eu sei que tem pessoas comemorando, enfim não é nem esse o ponto. Mas assim era muito convincente o vídeo e era feito por IA. E a pessoa teve que desmentir porque publicaram achando que era verdadeiro. (96:24) Então é bem essa coisa de que quais os problemas que a gente vai resolver. E para fechar tudo isso envolve uma questão de vulnerabilidade, né? É uma questão de vulnerabilidade digital. Ou seja quanto mais analfabetismo funcional, mais vulneráveis ficarão as pessoas. (96:52) Gente já estamos aqui em quase 1 hora 40, então com isso nós nos despedimos de vocês, né, agradecendo mais uma vez a sua companhia e a sua audiência em 2025, esperando que em 2026 estejam todos aqui conosco. Nos encontraremos agora no próximo episódio do podcast Segurança Legal. Até a próxima. >> Até a próxima. | — | ||||||
| 12/16/25 | ![]() #409 – Para além do endpoint | Neste episódio conversamos como Willian Oliveira e Fernando Andreazi, da Kaspersky, sobre a evolução das ferramentas de segurança que vão além do endpoint, abordando a mudança no cenário de segurança e a necessidade de enfrentar ameaças cada vez mais sofisticadas. Você irá aprender sobre XDR, também conhecido como Extended Detection and Response e o MXDR, ou ou Managed Extended Detection and Response. Willian e Fernando trarão toda a sua experiência na área para lhe ajudar na escolha da melhor solução de segurança para o seu negócio. Este é um episódio patrocinado pela Kaspersky. Conheça o Kaspersky Next Optimum – Segurança em níveis projetada especialmente para solucionar vários desafios de negócios Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing | — | ||||||
| 11/18/25 | ![]() #408 – O primeiro ataque realizado por IA? | Neste episódio, comentamos o primeiro ciberataque realizado por inteligência artificial, uma operação que atingiu 30 empresas e foi atribuída a um grupo de hackers financiado pelo estado chinês. Você irá aprender como os criminosos utilizaram agentes de IA para automatizar as fases de um ataque, desde o reconhecimento de alvos e levantamento de vulnerabilidades até a exploração e o movimento lateral dentro das redes invadidas, com o uso de ferramentas open source e o modelo de linguagem da Anthropic, o Claude. Discutimos como essa abordagem, que utiliza o Model Context Protocol (MCP), permite que a IA controle ferramentas de varredura de portas, análise de código e exploração de vulnerabilidades, representando uma mudança significativa na forma como os ciberataques são conduzidos. Abordamos também a importância da segurança para as empresas que desenvolvem sistemas de IA, a criação de agentes e as implicações futuras dessa tecnologia, incluindo o surgimento do “vibe hacking” e a capacidade da IA de encontrar novas vulnerabilidades (zero days). Por fim, analisamos o relatório da Anthropic, que detalha a operação e as lições aprendidas, e como a automação de ataques pode levar a um aumento de ameaças, permitindo que pessoas com menos conhecimento técnico realizem ataques complexos. Convidamos você a assinar, seguir e avaliar nosso podcast para não perder nenhuma discussão sobre segurança da informação e direito da tecnologia. Continue se informando sobre as novas tendências e ameaças do mundo digital. Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Disrupting the first reported AI-orchestrated cyber espionage campaign AI: What Could Go Wrong? with Geoffrey Hinton | The Weekly Show with Jon Stewart Imagem do Episódio -Eisenwalzwek (Moderne Cyklopen) de Adolph Menzel 📝 Transcrição do Episódio (00:07) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação e direito da tecnologia e tecnologia e sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? E nossos ouvintes e aos internautas que sempre esqueço que nos acompanham no YouTube. (00:29) Claro, sempre lembrando que para nós é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Então você já sabe, basta nos contatar se quiser no podcast@segurançalegal.com, YouTube, Mastodon, Blue Sky, Instagram e agora o TikTok também. Você consegue fazer e assistir alguns cortes lá dos episódios que vão ser publicados lá também. E também a nossa campanha de financiamento coletivo lá no apoia.se/segurançalegal. (00:55) A gente sempre pede também que você considere apoiar esse projeto independente de produção de conhecimento. É bastante importante que você apoie para que esse projeto, para que o podcast Segurança Legal continue existindo, Vinícius. OK. Perfeito. Nenhuma vírgula. Goulart, eu vou começar com uma pergunta. Você já viu ali o título, enfim, já sabe do que nós vamos falar aqui. (01:26) Mas a pergunta é: será que nós estamos diante, será que nós testemunhamos, a humanidade acabou de testemunhar o primeiro ataque, o primeiro ciberataque realizado por inteligência artificial? Será que a IA da Anthropic um dia acordou e falou assim: “Eu vou fazer um ciberataque aqui atingindo algumas empresas e tal”? O que que o relatório da Anthropic, que é a dona do Claude, o que que esse relatório envolvendo essa avaliação de um ciberataque que houve, que teria havido a participação da IA, o que que ele nos colocou aqui? Guilherme, quando tu faz esse questionamento, ele é bastante relevante porque a gente já teve outros dois casos em que a coisa foi meio deturpada, foi colocada com, foi feito uns caça-cliques aí na internet. (02:05) A primeira delas foi aquela situação em que o Claude tentou chantagear um engenheiro que queria desligar ele. E para chantagear ele usou e-mails desse engenheiro aos quais ele teve acesso e que ele ali tinha um caso extraconjugal. Ele então ameaçou o engenheiro de que iria entregar se ele desligasse, se o engenheiro desligasse a IA. E na verdade, a coisa não, sim, aconteceu esse negócio de chantagear, isso de fato aconteceu, mas isso foi num cenário controlado. Os e-mails eram falsos. Eles criaram para simular uma situação. E de fato a IA tentou chantagear o engenheiro. (02:32) De fato isso aconteceu, mas no ambiente controlado. Não é uma coisa que saiu solta por aí, fazendo coisas desse gênero. E teve alguns outros parâmetros do teste também que modificaram um pouquinho a realidade, mas enfim, de fato aconteceu num ambiente bem controlado. Só para também destacar, eu acho que a gente ainda não entrou de vez na era dos agentes, de uma IA autônoma, no sentido de ela tomar decisões. Ela ainda é muito dependente do que a gente pede para ela fazer. E esses movimentos aí que a gente tem visto nos últimos tempos de que mexe no browser, que faz compras, eu acho que a gente tá ainda dando os primeiros passos rumo a uma autonomia maior da IA. Isso aconteceu aqui ou não? (03:44) Ah, tu diz nessa situação aqui? Aí só deixa eu citar daí um segundo caso que também fizeram um pouco de alarde fora do que havia sido colocado, que é o seguinte: que é botar uma máquina de vendas lá na Anthropic. E essa máquina de vendas, ela gerenciava que produtos ela iria vender, por qual preço e obtinha esses produtos também de fornecedores. E aí o pessoal fez logo uma matéria aqui no Brasil, inclusive, saiu a IA, que botaram a IA para gerenciar um mercadinho, uma coisa assim, e uma empresa e ela quebrou a empresa. (04:17) Na verdade, não é uma. São aquelas vending machines, sabe? Aquelas máquinas de venda que tu coloca dinheiro e compra. E de fato a máquina deu prejuízo ali. Mas não é uma coisa que agora alguém teve a ideia de botar IA para gerenciar o negócio e a IA quebrou o negócio. Aí fica aparecendo. E agora a gente tem nesse relatório, a gente tem uma outra situação mais avançada, bastante interessante. Mais avançada e com um uso principalmente de agentes. Eu acho que cabe a gente dar uma rápida explicação nessa questão de agentes, de ferramentas para conseguir entender. Quem é da TI e já tá usando IA, já tá estudando IA, já vai ter uma noção. Mas boa parte das pessoas… (05:25) E eu acho que antes disso também, Vinícius, o que que é o modelo em primeiro lugar? Até chegar no agente. Vamos lá. Então, o modelo é o que você poderia chamar de cérebro da IA. Esse modelo é o que tem que ser treinado e é o que as empresas levam meses para fazer e gastam um monte de dinheiro com eletricidade, GPUs, inclusive na aquisição de conteúdo para treinamento. Gastam um monte de dinheiro, fazem o treinamento desse cérebro, desse modelo. (05:58) Uma vez que tá feito o treinamento, a gente passa por uma fase de inferência, mas esquece o nome. O que importa é que a gente passa para uma situação que a gente consegue utilizar para uma nova etapa. E aí é que você entra quando você usa o ChatGPT, quando você utiliza um Claude AI ou Gemini, etc. São ferramentas que usam esses modelos já treinados. Em essência é isso. Acontece que esses modelos já faz uns, acho que um, já faz uns dois anos, se não até mais para cá, eles começaram a ser preparados para usar ferramentas. O que que é esse usar ferramenta? (06:42) Então, o ChatGPT há até um tempo atrás, ele respondia só com base nos dados que tinham sido utilizados para treinar ele. Tanto que tu perguntava alguma coisa mais recente, ele pegava coisas que eram velhas, nada mais recente ele conseguia trazer. O Perplexity foi uma ferramenta que quebrou um pouco essa fronteira, ou seja, eles pegaram, eles usam o modelo da Open, usam o GPT, mas também usam Claude, etc., depende do cérebro. E eles então integraram isso com uma ferramenta de busca. (07:03) Então eles usam a IA, usam os modelos para, vamos dizer assim, comandar uma ferramenta de busca, pega os resultados, analisa esses resultados e te dão esses resultados mastigados pela IA. Essa é a diferença entre tu usar o Google e usar o Perplexity para fazer uma pesquisa. Com o tempo, todas essas aplicações, todas essas aplicações, não vou usar aplicações para não misturar com ferramenta, não. Todas essas aplicações, ChatGPT, o Claude, o Gemini, etc., todos eles começaram a te dar opções de várias ferramentas, não só busca na internet, mas ferramentas que inclusive elas podem interfacear com os seus arquivos na tua máquina. (07:58) Então tu pode mandar comando, falando sobre isso aqui. O Claude, se tu instalar o Claude, os usuários de macOS, já tem essas funcionalidades há algum tempo, porque eles acabam, a Open AI lança primeiro pro Mac. A Claude fez a mesma coisa e para Windows vem um pouco depois, mas tu pode instalar, por exemplo, o Claude, a aplicação Claude, na tua máquina e lá vai ter algumas ferramentas. Cuidado com isso. Cuidado com isso. Tem algumas ferramentas que tu pode ativar que permite que ele controle o teu navegador, que ele controle, que ele consiga gerenciar arquivos na tua máquina, mover, apagar, criar pasta, etc. (08:23) Eu fiz um teste com relação a isso um tempo atrás para organizar uma pasta de downloads. Funcionou, só que são ferramentas que tu tem que tomar um pouco de cuidado porque eventualmente elas podem sair do teu controle e fazer coisas que não deveriam fazer, mas enfim. Então, notem que a IA, esse modelo que a gente falou, que é o cérebro, ele é capaz de interpretar aquilo que a gente escreve, mas ele é capaz de interpretar também aquilo que ele recebe de outras fontes, como por exemplo, de um mecanismo de busca. Ele interpreta, consegue analisar, e aquela coisa de simular o raciocínio humano. E ele analisa aquilo, escolhe o que é mais importante, te mostra, dá um resumo ou coisas desse gênero. (09:11) E aí, Guilherme, a gente cada vez mais tá migrando para uma IA agêntica. Agêntica, isso que é um agente. E aí, o que que essa IA faz? Que que essa IA faz? Ela usa um modelo, ela tem um modelo que tem formas de interfacear com o nosso ambiente, seja o que for. Pode ser desde câmera de vigilância, um programa de edição de código para programação, um programa de edição de imagem, portas físicas, fechaduras, sistema solar de energia, um roteador, etc. (09:53) Então, tu consegue entregar para um modelo de IA várias ferramentas. Para ela utilizar essas ferramentas para quem tá por dentro da questão mais técnica, normalmente utilizando MCP. É o Model Context Protocol, mas o que importa é que existe um protocolo, existe uma forma padrão para te entregar essas ferramentas para os modelos de IA. Quem criou esse padrão foi a Claude, foi a Anthropic. E aí todo mundo, todo mundo hoje segue esse padrão. Todos os as ferramentas utilizam o MCP. (10:25) Então, por exemplo, eu tenho uma situação que eu mesmo fiz aqui. Eu tenho meu sistema solar aqui de geração de energia e eu quero saber quanto de energia eu produzi no ano passado, nesse mesmo mês. Daí eu tenho que ir lá pegar o aplicativo, ver qual naquele mês, quanto eu fiz e eu mesmo comparar. Aí o que que eu fiz? Eu fiz uma ferramenta em que essa ferramenta consulta os meus parâmetros de produção de energia e eu entreguei essa ferramenta para um agente de IA e disse para ele, e literalmente tá por escrito: “Ó, tá aqui uma ferramenta que te permite acesso aos parâmetros, aos dados de produção de energia do meu sistema solar. E aqui tá essa chamada que te entrega de um mês específico, essa aqui de um dia, essa aqui de um ano”. E entreguei essas ferramentinhas para ela. Só isso. (11:20) Tu entrega para ela isso. E aí num chat lá com esse com esse agente, tu pode perguntar outras coisas e tal. Daqui a pouco tu pergunta: “Quanto eu produzi de energia no ano passado, no mês de fevereiro?”. Aí ele vai, bom, o usuário tá querendo saber quanto ele produz de energia em fevereiro. Aí ele vai olhar a coleção de ferramentas que ele tem, vai dizer: “Hum, eu tenho uma ferramenta aqui que me dá acesso aos dados de produção de energia do meu usuário lá e tal”. Aí ele vai olhar a ferramenta, ele vai ver que tem uma chamada que mostra o resultado de um mês e do dia e tal. Ele pediu de fevereiro. Fevereiro é um mês. (11:58) Então ele vai pegar aquela chamada ali, vai pegar a produção de energia de fevereiro lá do meu sistema, vai chamar aquela função, aquela função vai conectar. Como é um programa normal de computador, digamos assim, normal, que não é uma IA, ele vai conectar, vai pegar os dados e vai devolver os dados para IA, pro modelo. E aí o modelo vai olhar aquilo e vai dizer: “Tá, beleza”. E ele vai dizer: “Ó, tu produziu tantos kilowatts de energia”. Aí se eu disser para ele: “Compara com fevereiro do ano anterior”, ele vai buscar dos dois meses, vai fazer uma comparação e vai dizer: “Tu produziu tantos por cento a mais ou a menos e tal”. Aí já vai trabalhando os dados que ela recebeu. (12:32) E assim tu pode fazer com qualquer coisa, qualquer sistema que tu tenha, qualquer coisa que tu possa ligar num computador em algum momento, numa rede por aí, em qualquer lugar, um termômetro, o que tu imaginar. E pode ser atuadores também, pode ser um negócio que desliga alguma coisa ou que liga um equipamento, qualquer coisa. Se tu fizer essa interface MCP que a gente chama e entregar isso para IA como ferramenta, a IA consegue usar essa ferramenta, qualquer coisa. (12:51) E o que que acontece aqui nesse caso da Anthropic, desse relatório da Anthropic? O que foi feito é: cibercriminosos, que eles apontam como sendo com um grande nível de certeza, de confiança, seria um grupo financiado pelo estado chinês. Um grupo de hacking financiado pelo Estado chinês. Eles dizem isso com um com certo grau de certeza. Eles fizeram um ataque, um ciberataque em que fizeram todo a etapa de reconhecimento de um alvo, levantamento de informações sobre esse alvo, levantamento de vulnerabilidades, a exploração dessas vulnerabilidades levando a uma invasão. (13:57) E aí o movimento lateral que envolve tu buscar outros sistemas naquela, depois que tu entra na rede, tu entra no ambiente do teu alvo, tu começa a catar outros sistemas ali que tu consegue acessar. E a partir dali, a partir dali tu eles buscam outras credenciais e aí tentam usar essas credenciais. Então eles teriam feito um agente de IA fazer esse um ataque cibernético desse tipo. É, a Anthropic publicou e aí esse podcast é baseado nesse relatório deles que foi publicado aqui e a gente vai deixar como sempre no show notes. (14:35) Abrindo ele aqui, mas basicamente eles começam dizendo e exaltando que a Anthropic tem uma série de medidas de safety e security, que é aquela diferença entre a segurança de funcionamento e a outra segurança. A gente acaba usando a segurança, a mesma palavra para designar duas coisas diferentes. Eles destacam também que toda essa construção dessas medidas de segurança que eles falam vão na linha de, inclusive, é realizado por um setor de threat intelligence, ou seja, de inteligência de ameaça. Ou seja, eles estão sempre buscando saber o que que os criminosos estão fazendo para subverter aquelas medidas. (15:15) E é interessante começar a pensar em como a segurança é importante para as empresas de que fornecem esses sistemas de IA de maneira geral. Eles encontraram isso em setembro dessa mega operação que eles chamaram que teria atingido 30 companhias. Eles decidiram então trazer à tona os detalhes técnicos disso. E eles destacam que seria uma mudança ou que teria representado uma mudança em como que os cibercriminosos estariam agindo. (15:37) E eu acho que daí que a tua explicação sobre os agentes, ela é importante porque a IA aqui não é um, a gente não tá diante de uma IA aqui que por vontade própria decidiu atacar sistemas. A gente tá diante, caso alguém pudesse ter pensado isso, seria um pensamento legítimo de se pensar quando você não conhece o caso. O que a gente tá aqui é diante de um novo comportamento de agentes criminosos que conseguiram, e aí o Vinícius vai nos explicar melhor como, usando agentes automatizar certas operações ou certas ações que já são realizadas por atacantes normais, por atacantes pessoas, digamos assim. (16:18) Foi isso. Ou seja, você deu uma, você aumentou a potência do agente atacante ali, com essa ideia lá do co-inteligência do livro aquele que a gente tá lendo, do Ethan Mollick. Foi isso, Vinícius? É exatamente assim quando a gente vê esse uso, digamos assim. Eu até tô ajeitando aqui, Guilherme, já para poder compartilhar com todos os inclusive as imagenzinhas que são bem interessantes do relatório. O que foi feito, não, assim, a gente de novo, é aquilo que a gente comentou no início, não é que a IA saiu enlouquecida fazendo tudo por conta. Não se trata disso. (17:26) Ela simplesmente foi utilizada, como tu bem falou, ela foi utilizada para fazer um para automatizar etapas de um ataque. A grande sacada é que esses caras automatizaram grande parte do ataque. É isso que mais chamou atenção, porque existe uma coisa, eu acho, eu acredito que muita gente já deve ter ouvido falar do Vibe Coding, que é a história de tu programar um software sem saber programar. Então tu chega ali, não é que tu não saiba programar, mas tu chega ali pra IA e diz assim: “Eu quero uma aplicação que faça não sei o que blá blá blá”. Tu vai na vibe e deixa que ele gera o código. Aí tu testa, vê se funciona, funcionou, vai adiante, vai modificando até chegar no programa que tu quer. Isso hoje é meia boca, mas vai ficar bom. (18:16) E existe vibe hacking. Vibe hacking, tu vai usando a IA para te ajudar em coisas bem pontuais numa, em algo envolvendo segurança da informação. Um pen test, algum desenvolvimento de algum payload, de alguma sequência lá que tu precisa para explorar uma determinada vulnerabilidade, alguma coisa assim, alguma ideia para: “Pá, eu já testei tudo que eu podia fazer aqui nisso aqui, mas eu ainda acho que pode ter um problema que eu não tô achando”. Tu pode discutir com a IA isso, sabe? E pode até fazer com que ela gere para te testar certas possibilidades. Isso te acelera muito o trabalho. Isso te dá uma vantagem muito, muito grande, inclusive para testar várias possibilidades ao mesmo tempo. (18:46) E aí, o que esses caras fizeram? Eu vou compartilhar aqui o reporte. O que esses caras fizeram foi o seguinte: ele esse aqui é o reporte, essa aqui é uma versão que saiu, foi atualizada hoje, dia 17 de novembro. Inclusive, Guilherme, a gente tava discutindo aqui: “Pô, vai na página tal, cara. Não tem página tal, tá em outro lugar, não sei o quê”. A gente foi olhar, uma atualização hoje. É desse depois que eu baixei o documento hoje de manhã, a gente teve outra atualização ali. Mas eu vou direto pra imagem aqui. Depois tem todos os detalhes. A gente vai compartilhar isso aqui com vocês. (19:37) Mas aqui, ó, essa imagem ela meio que tentou organizar um pouquinho o que eu expliquei para vocês com relação à ferramenta. Então, o ataque teria sido desenvolvido em três etapas. Então a primeira fase em que ele define quais são os alvos, o operador define quais são os alvos, é a fase one que tá bem ali na esquerda. E lá em cima aí depois a 2, a 3 e a 4 são esses quadradinhos, são esses retângulos aí que estão sombreados, a fase dois, a fase três e a fase 4. (20:00) E o que que interessa a gente pra gente entender de uma forma razoável esse ataque? Cada uma dessas fases. Então, a fase, por exemplo, de reconhecimento envolve varredura de rede, que a gente tem que encontrar serviços rodando, a gente tem que buscar dados sobre o alvo, tem uma série de coisa que a gente vai fazer. E aí, o que que esses atacantes fizeram? O que é que esses cibercriminosos fizeram? Eles criaram ferramentas. Estão vendo que diz aqui scan? Tô vendo quem tá vendo no YouTube. Quem não tá vendo, imagine as caixinhas. Tá escrito aqui scan tool, search tool, data retrieval tool, code analysis tool, tool. (20:46) Essas ferramentas são, é que nem o esquema que eu fiz aqui do meu sistema de energia solar. Eles criaram interfaces MCP, desse protocolo para te entregar ferramentas, uma interface para IA conseguir usar uma ferramenta de varredura de portas. Que que é uma ferramenta de varredura de portas? A gente encontra um determinado máquina, um servidor na internet e a gente tem que saber que portas nessa máquina estão abertas pra gente conseguir ver que serviços que tem lá e aí procurar informações sobre esses serviços, procurar vulnerabilidades que esses serviços tenham e aí explorar essas vulnerabilidades. (21:16) Então o que eles fizeram foi criar ferramentas para cada uma das etapas. Então, uma primeira etapa de levantamento de dados, uma segunda etapa em que eles começam a procurar ferramentas de exploração dessas vulnerabilidades. E uma terceira etapa, lembrando só, essas ferramentas muitas vezes já estão disponibilizadas na web aí, para por sistemas já conhecidos de exploração de vulnerabilidades e tudo mais. (21:52) Inclusive no relatório eles colocam que as ferramentas são todas open source, então são ferramentas padrão que tu encontra na internet, só que tu faz uma interface para IA conseguir chamar aquela ferramenta. Então, só que em vez de fazer, em vez de, por exemplo, uma ferramenta que vai lá e consulta, faz uma pesquisa, traz o resultado da pesquisa e analisa o resultado da pesquisa, em vez de fazer isso, ela chama uma ferramenta que faz varredura na rede, como Nmap, que é quem entende tecnicamente aí, é uma ferramenta extremamente comum de fazer varredura. (22:22) Então ela tem um Nmap, eu crio um código em volta do Nmap ali que permite que a IA chame o Nmap, execute o comando e depois o resultado disso a IA receba de volta e aí analise esse resultado. Então eles fizeram isso com várias ferramentas, as ferramentas que a gente utilizaria manualmente. Eles fizeram isso com várias ferramentas para automatizar esse processo e eles não terem que fazer. (22:47) Então, na fase dois aqui, na fase um, o operador humano escolhe o alvo, determina os alvos. Na fase dois, a IA passa então a usar ferramentas para levantar informações sobre esse alvo. E são essas ferramentas que os atacantes disponibilizaram para IA. Na fase três, a IA começa então, usa aqueles dados que foram levantados na fase dois e começa a procurar possíveis ferramentas de exploração desses problemas, encontra possíveis ferramentas e técnicas. (23:18) E aí a IA pode ajustar as ferramentas, ela consegue executar as ferramentas e consegue criar ferramentas, ela consegue criar algum código ou coisa parecida. E aí ele passa pra fase quatro, que é a de efetiva exploração dessas vulnerabilidades. E depois que ele explora essas vulnerabilidades, consegue botar um pezinho dentro da rede lá do cara ou dentro do servidor. A partir dele, a etapa cinco é começar a coletar credenciais de acesso, procurar arquivos de configuração com chaves de acesso e coisas desse gênero. E é o tal do movimento lateral que ele faz depois que entra lá dentro. (24:16) E então os atacantes, o que eles fizeram foi pegar a IA da Anthropic, que é o Claude, e entregaram para essa Anthropic várias ferramentas que permitia que ela realizasse ataque por conta própria. E segundo tendo no relatório, eles teriam feito isso de maneira segmentada para que o próprio modelo não detectasse que fosse uma ação maliciosa. Então, por exemplo, em vez de eu dizer: “Ah, ataca aqui o Guilherme, levanta informações sobre ele, pega os dados de não sei quê, não faz não sei o que e já faz o ataque”. Não, eles quebraram isso em etapas. (24:34) Então eu faço com agentes diferentes cada uma delas também. Exatamente. Então eu vou lá e levanto, por exemplo, quais são as portas abertas? Aí depois eu, beleza, tenho a lista de portas abertas, IP e porta. Aí eu posso pegar só as portas. Agora quero para cada porta aqui, eu quero saber que versão de serviço tá rodando aqui. Aí um agente vai lá e levanta a versão de serviço. Aí um outro agente eu digo assim: “Ah, procura para mim que vulnerabilidades esse serviço aqui com essa versão tem”. Eu não digo que isso veio de uma varredura que eu fiz no IP, não sei quê. (25:12) Não digo, só digo: “Ó, procura para mim a vulnerabilidade, se esse serviço de e-mail na versão tal tem alguma vulnerabilidade conhecida”. E ele vai lá e faz. Então eles quebraram o ataque todo em várias etapas e meio que isolaram os agentes, digamos assim, para evitar que o modelo detectasse um ataque acontecendo, uma atividade maliciosa acontecendo. (25:36) E aí para aquela analogia que a gente usou antes aqui, como se você fosse organizar o cometimento de um crime, chamasse vários agentes mesmo, e comparsas ali, cada um sabe um pedacinho. O filme do Batman é assim. O Batman lá do Coringa é assim. Lembra que no início eles, eu não sei qual é a próxima fase e tal, eles só sabem um pedaço do crime e aí depois o Coringa ainda vai matando eles. Seja uma analogia assim, mais ou menos. (26:03) É perfeito. É isso aí que ele faz. E até porque eles têm que, notem que para ferramentas, não adianta entregar as ferramentas e deu, tu tem que dizer para o que tu quer que ela faça. Então tem toda uma engenharia de prompt por trás desse ataque que tu tem que fazer os prompts funcionarem. E quem já fez prompts mais complexos sabe que às vezes tu tem que dar uma volta maior para conseguir fazer a IA fazer o que tu quer, que ela pode se negar a fazer certas coisas. Então eu vivo brincando com isso aí porque tem certos testes que eu quero que ela faça, ela não faz, ela se nega, ela diz: “Eu não posso fazer isso”. Aí eu tenho que dar uma volta, mudar o prompt, mudar não sei que para fazer. (26:33) Então esses caras tiveram que fazer um monte de prompt para fazer esse ataque funcionar. Então, no final das contas, Guilherme, o que eles fizeram foi pegaram o Claude, mas nota, eles poderiam ter usado o GPT, algum modelo da OpenAI, eles poderiam, podiam ter usado um modelo instalado. É isso que eu dizer, a Anthropic tira dessa negócio aqui uma série de lições que eles falaram aqui para ele que eles vão usar para reforçar a segurança do modelo deles. Mas esses caras aqui brincando mudam pro ChatGPT. Vão ter que ajustar talvez um prompt ou outro. (27:24) A coisa não quer dizer que um prompt que contornou a segurança do Claude vá funcionar no GPT. Então talvez tem que ajustar, mas eles podem usar o GPT, eles podem usar o Gemini, eles podem usar o Grok, eles podem usar, entende? E as por aí para usar essa estrutura de ferramentas que eles criaram agora, que lembrem, isso aqui usa MCP, que é um protocolo padrão para entregar a ferramenta para IA e todo mundo tá adotando isso. E eles também podem, vamos supor que todos os modelos ficaram maravilhosamente bons. E lembrando que aí a medida que o tempo passa, não só a gente tem modelos de IA mais potentes que consomem mais recurso, mas a gente tem também cada vez mais modelos mais capazes que consomem pouco recurso, que tu consegue rodar localmente. (27:59) E existe uma busca por isso para te poder rodar num celular, poder rodar num ambiente embarcado num carro e coisa assim. E hoje LM Studio da vida. Tu pode pegar um LM Studio da vida hoje e rodar. De uma boa placa de vídeo na mão, tu pode rodar certos modelos que são bem capazes, não são tão bons que o Claude, mas são razoáveis. Então, nada impediria desses caras com esse monte de ferramenta pronta aqui e esses prompts e tudo mais, comprar um monte de GPU, um monte de placa de vídeo para ter um poder de processamento legal, investir nisso e eles mesmos rodar o modelo de IA que vai gerenciar suas ferramentas. Sem restrição nenhuma em termos de segurança, sem safeguard nenhum. Ela fazer sem perguntar o por que ela deveria fazer ou dizer que isso aqui é crime, não sei que ela não faria isso. (28:52) Então, o que a gente tá vendo, independente deles terem usado o Claude ou não, é mais uma automação de processos que antes eram feitos apenas por seres humanos. E com a consequência de ser algo que baixa o custo do ataque. Ou seja, esses caras atacaram 30 alvos num tempo que se eles tivessem que fazer isso com seres humanos, sabe? Custaria mais caro para eles em termos de tempo. E ainda por cima talvez eles não fossem tão eficientes, sabe? (29:24) Então, eficácia é outra coisa, mas isso baixa o sarrafo para ataques mais sofisticados. Porque basta a gente lembrar o que acontece com ferramentas mais complexas, com ataques mais complexos. Com o tempo surge uma ferramenta que automatiza aquele ataque e aí o cara só baixa, o cara baixa a ferramenta, coloca o IP de alguém, aperta send e manda ver. Então, a gente tá vendo isso acontecer, assim como em várias outras áreas da atuação humana, a gente tá vendo isso acontecer numa situação de cibercrime. No final das contas é isso, sabe? (30:20) Eu acho que no fim das contas, quando você vai, você tava falando aqui, fui lá no Hugging Face, coloquei cybersecurity, você já tem algumas coisas acontecendo lá também para avaliação de sistemas. Os caras dizendo que a gente treinou esse modelo aqui com OWASP, MITRE ATT&CK, NIST, CWE, CVSS. Então, de repente tu já tem e inclusive as próprias vulnerabilidades já conhecidas, isso é tudo muito público assim. E o que me chama atenção, acho que tem várias coisas aí. (30:49) Primeiro é que além do uso da IA, mas não é nada novo, me parece, não tem uma, não é uma metodologia nova, é uma automatização de como as pessoas já fazem aquilo. Exatamente. E nota que isso é bom pro atacante. Claro, ele tá automatizando, ele faz mais rápido, ele faz em grande escala, fica mais barato para ele, menos gente, mais lucro, até menos gente. Só que a grande sacada vai ser, e isso se já não aconteceu, deve estar acontecendo agora, vai acontecer em breve, é você conseguir fazer coisas novas, entendeu? Você subverter, você encontrar novos meios, você encontrar novos caminhos, você técnicas e tudo mais. (31:30) Eu acho que esse vai ser o ganho aí também em qualidade, não é só uma questão de quantidade, porque todas essas atividades ali, tudo indica que foram feitas. É o passo a passo normal de um de um teste ilegítimo, digamos assim, ou de uma invasão ilegítima. E aí, o pessoal às vezes pode ficar chateado com a gente, mas enfim, você tá aqui num podcast de segurança da informação, direito da TI, proteção de dados, então a gente vai falar de segurança mesmo e a gente vai botar o dedo na ferida no sentido de que pros empresários, pros gestores que estão nos ouvindo e tal. (32:08) E eu não falo isso, Vinícius, para honestamente para assustar ninguém, mas isso é só o começo. Sim, isso é, sem dúvida, sem dúvida. Quem acompanha o cenário de e que faz essa atividade de threat intelligence, quem acompanha golpes e tal. Hoje nós já temos, e o Vinícius, a gente conversava sobre esses dias, o Vinícius pode endossar essa. Hoje fazer um um bot no Telegram, já faz tempo que sempre foi fácil fazer bot no Telegram, mas ligar uma IA no Telegram lá para fazer um botezinho é a coisa mais fácil do mundo que tem. (32:29) Então você já tem grupos criminosos hoje que ficam mandando mensagens lá, tem uma clássica que ele pergunta se você é guia turístico no Brasil e tal. E aí começa uma, se diz que não e aí começa a conversar com o cara e aí tu vê que é uma IA, várias pessoas recebem, tem informação disso, várias pessoas recebem. A ideia é tu automatizar uma primeira etapa do ataque para pegar algum, pegar algumas pessoas que caem no golpe e aí passa depois para um para uma atendente pessoa ali para seguir com o golpe. Então isso vai ser cada vez mais comum. Daí que eu acho que é a importância da gente conhecer e saber como é que essas coisas estão acontecendo. (33:25) E isso que nem falou, Guilherme, o que o Ethan Mollick coloca no livro dele também. Tu sempre assume que tu tá usando a pior IA que tu tá usando hoje é a pior que já existiu. A coisa só vai melhorar. E então eu já sinto esse negócio de mudar a forma como a gente testa algumas coisas, porque tem certas verificações que antes eram inviáveis de serem feitas. Que agora é perfeitamente viável de fazer por causa da IA. (33:56) Então, coisas que antes não podiam ser feitas e que agora é viável. Porque eu tenho, eu sei o que eu quero fazer, mas para fazer manualmente é muito difícil. E tu fazer um programa que faça aquilo com aquela lógica, ou seja, fazer um programa para fazer um cálculo complexo, contábil, vai dar certo, ou de física, etc. Vai embora. Agora, faz um programa, tenta fazer um programa sem usar IA. Sem usar nenhum tipo de machine learning, tenta fazer um programa normal, digamos assim, que reconhece se tem um papagaio numa imagem ou não. Pronto, foi pro Belelu. Vai ter um trabalho muito grande. E a IA já permite certos testes que antes não eram possíveis. E inclusive a questão de trabalhar com código ofuscado, que é algo que a gente comentava e que é uma coisa bem interessante também. (34:49) O código é ofuscado para ser humano, não para uma máquina. Então tem várias coisas que estão mudando nesse cenário com a IA. E sim, quando eu falo que esse tipo de coisa que a gente tá vendo aqui acontecendo nesse artigo que a gente tá comentando, em que eu digo que baixou o sarrafo, e eles comentam, eles falam não nesses termos, óbvio, mas eles falam que baixou os requisitos para te fazer um ataque mais complexo. E aí isso, achando que tudo que é mais fácil agora. (35:17) Exato. E aí ficando mais fácil, tu vai ter mais ataques acontecendo, porque agora pessoas com menos conhecimento vão conseguir fazer ataques mais complexos que antes elas não conseguiam fazer. Então, tu vai, ao mesmo tempo, tu também pode usar IA para aumentar as defesas, entende? Mas é aquela aí, é aquela velha história, é um jogo assimétrico, porque quem defende tem que encontrar todos os furos, todas as possibilidades de entrada num ambiente. Quem ataca só tem que encontrar um. (35:51) Então assim, se tu encontrou 100, deixou um para trás e o cara que tá atacando encontrou aquele um, pronto, ele ganhou o que ele queria. Entende? Mas ali tudo indica que seria uma coisa assim mais de buscar vulnerabilidades conhecidas em sistemas desatualizados. Girou em torno disso. Mas eu não falo desse caso específico. O que eu tô te dizendo é que cada vez mais tu vai ter ferramentas que vão automatizar esses ataques para pessoas que não conhecem nada tecnicamente. É o retorno seria o retorno do script kiddie, Vinícius. (36:26) Não, não é o retorno. Esse cara sempre existiu. Assim, o cara que fica decorando um monte de conceito numa conversa depois, larga aquele monte de termos e não sei que ele aprendeu em inglês até decorar aquilo para conseguir mostrar para alguém que ele sabia aquilo de decor, mas no fundo, no fundo, no fundo, o cara não sabe o que tá fazendo. E esse cara vai ser beneficiado, ou seja, vai baixar o nível de exigência pro cara fazer uma coisa desse tipo. (36:50) Em última análise, tu vai ter um aumento de ameaças no âmbito. Exato. O nível de ameaça sobe porque a facilidade de exploração cai. A facilidade de tu encontrar um problema, analisar aquilo, tentar fazer a exploração. Cara, uma coisa simples que se fazia, talvez até hoje, ainda tem, com certeza, até hoje tem lá no Exploit-DB, uma coisa simples que se fazia era tu ia baixar um exploit, uma ferramentinha para fazer uma exploração e aquele exploit vinha com algumas coisas erradas óbvias, sabe? Mas tu tinha que olhar o código, tinha que entender o código e tinha que olhar: “Ah, tá aqui”. Aí tu ia lá, ajeitava e o código passava a funcionar. Justamente para evitar aquele cara que só baixa, executa e deu. (37:26) Isso hoje é ridículo. Tu baixa um negócio desse, tu dá para IA e diz: “Corrija e melhore e ajuste para minha situação aqui”. E ela vai fazer para ti. Tu não tem que fazer mais nada, entende? O próximo passo é aí sim, e aí ela já consegue fazer isso, mas aí ela encontrar as vulnerabilidades, isso já tá sendo feito aí, já tá, já tem notícia sobre isso. Guilherme, mas no sentido de, aí que é o também um passo aí de qualidade. É tu descobrir coisas novas, é tu descobrir zero days, é tu te apropriar daquilo, é tu sabe. E aí a coisa fica mais complexa, porque quanto tempo e dinheiro tu vai investir para descobrir essas coisas, sabe? (38:23) É bem delicado. E tem uma coisa que é interessante. Um zero day, uma coisa nova, é um furo que ninguém conhecia, era um problema que ninguém conhecia. Mas dificilmente esses caras surgem com uma técnica nova de exploração. São ocorrências de problemas já conhecidos ou de combinações de problemas já conhecidos numa dada situação que gera um resultado diferente que ninguém esperava, que é uma nova vulnerabilidade. (38:51) Dificilmente acontece, acontece, óbvio que acontece, mas dificilmente são técnicas inteiramente novas, entende? Algo que nunca ninguém viu. Então a gente tem um monte de zero day que vem, por exemplo, de buffer overflow, que é um problema bem conhecido. E tem várias variações de buffer overflow já muito bem conhecidas e documentadas. Então a IA nesse sentido, ela consegue, ela vai conseguir encontrar zero days, fica bem tranquilo. Talvez ela não venha com coisas super novas ainda agora, mas ela vai ser capaz de fazer tranquilamente. (39:16) Guilherme, eu vou encerrando de minha parte aqui, dizendo que eu já passei para ti inclusive minha cópia do artigo com os destaques que eu fiz. Então, para ficar disponível lá para vocês a cópia com os destaques, com que eu achei aqui bem relevante, bem importante. E essa vai tá, vai estar no show notes para vocês baixarem. Você falou antes várias variações. É, várias variações, não é uma nem duas, são várias, são várias variações. É tipo uma surpresa inesperada. Uma surpresa inesperada. (39:46) Mas assim, ó, o que é muito importante é ficar, e a coisa em si lá no Claude e tal, é legal e tal, mas o que é interessante a gente pensar na técnica, os impactos disso hoje e pros próximos poucos anos que tá à nossa frente aí com relação aos momentos. Eles deram uma aumentada na importância assim, tem um meio de propaganda ali também, meio que assim: “Olha o que que é possível fazer com o Claude”. Eu senti. Nossa, o Claude foi fantástico, fez coisas que não seria possível fazer com seres humanos e tal, mas no final das contas, qualquer IA aqui que tu meter que seja boa, vai fazer isso aqui. (40:27) Então, bom, enfim, aquela história, os caras vendem um peixe deles também. É, depois dessa surpresa inesperada, nós vamos então terminando hoje o episódio um pouquinho mais curtinho também. É bom também, você consegue esgotar ele mais rapidamente. Aí abre espaço para você ouvir outras coisas interessantes também. A gente ouviu hoje, o Vinícius indicou um videozinho de um prêmio Nobel, prêmio Nobel, melhor dizendo, explicando um pouco a questão da IA. Dá para deixar. É do Geoffrey Hinton, o Geoffrey Hinton é um dos padrinhos da IA, um dos pais da IA. Então vamos deixar lá também bem interessante e nos encontraremos agora no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 11/12/25 | ![]() #407 – Furto no Louvre, scams na Meta, novo Owasp Top 10 e simplificação do GDPR | Neste episódio comentamos sobre as notícias mais recentes no mundo da segurança da informação e proteção de dados, com Guilherme Goulart e Vinícius Serafim. Você irá descobrir os detalhes sobre a sanção da Lei 15.254 de 2025, que criou o Dia Nacional de Proteção de Dados em 17 de julho, uma homenagem ao jurista Danilo Doneda, considerado o pai da proteção de dados no Brasil. Abordamos também o audacioso furto no Museu do Louvre, que expôs falhas críticas de segurança física, incluindo o uso de senhas fracas como “Louvre” no sistema de videovigilância, um caso que serve de alerta sobre a manutenção de sistemas dessa natureza. Além disso, você irá aprender sobre as revelações de uma reportagem da Reuters, indicando que a Meta conscientemente lucrou bilhões com anúncios fraudulentos, scams e a venda de produtos proibidos, levantando um debate sobre a responsabilidade das big techs. Analisamos também a nova versão do OWASP Top 10 para 2025 e discutimos a polêmica proposta de simplificação do GDPR na Europa, que pode enfraquecer o regime de proteção de dados na Europa e no mundo. Se você gosta do nosso conteúdo, não se esqueça de assinar o podcast na sua plataforma de áudio preferida para não perder nenhum episódio, nos seguir nas redes sociais e deixar sua avaliação. Sua participação ajuda o Segurança Legal a alcançar mais ouvintes e a continuar produzindo conteúdo de qualidade sobre cibersegurança e privacidade. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes: Presidente sanciona lei que cria o Dia Nacional da Proteção de Dados Louvre Heist Fallout Reveals Museum’s Video Security Password Was ‘Louvre’ The cybersecurity error at the Louvre that allowed the historic the Meta is earning a fortune on a deluge of fraudulent ads, documents show Release Candidate do Owasp Top 10 Vídeo – Pentest | O que é e como funciona um Teste de Invasão? EU Commission internal draft would wreck core principles of the GDPR 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 407, gravado em 11 de novembro de 2025. Eu sou Guilherme Goulart, junto com o Vinícius Serafim. Vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá, os nossos ouvintes. 11 de 11 hoje. 11 de 11. Hoje tem promoção em tudo quanto é coisa. (00:31) Época de mentirinha, mas esse é o nosso momento então de conversarmos sobre algumas notícias e acontecimentos que nos chamaram atenção. Pega o seu café então e vem conosco. E você já sabe, para entrar em contato com a gente é muito fácil, basta enviar uma mensagem para podcast@segurancalegal.com, Mastodon, Instagram, Bluesky, YouTube. (00:48) E agora, Vinícius, se você é jovem, TikTok também. Estamos lá com alguns vídeos que já estão sendo publicados, alguns cortes do podcast Segurança Legal. E também convidamos você a acompanhar a nossa campanha de financiamento coletivo lá no Apoia-se: apoia.se/segurancalegal. Você pode contribuir e também fazer parte do nosso grupo exclusivo de apoiadores lá no Telegram. (01:14) Vinícius, quer mandar uma mensagem ali pro Isaac Melo? Abraço pro Isaac Melo, que nos mandou algumas informações aqui, algumas dicas de uma notícia. Nós vamos dar uma olhada nos links que nos passaste. Isaac, muitíssimo obrigado. A gente vai dar uma olhadinha. Valeu, valeu, Isaac. (01:38) Continue sempre conosco. Primeira notícia, Vinícius, é um misto de felicidade pelo reconhecimento e pela sanção da lei 15.254, agora de 2025, que definiu o Dia Nacional de Proteção de Dados. E esse Dia Nacional de Proteção de Dados, Vinícius, que é no dia 17 de julho, é nada mais nada menos do que a data de nascimento do Danilo Doneda. Para quem não sabe, o pai da proteção de dados no Brasil, um grande jurista que nos deixou recentemente. Gravamos, ele gravou com a gente aqui no podcast, fizemos um episódio de homenagem a ele depois do seu falecimento. É uma homenagem muito justa, muito válida, sabe? Porque realmente o Danilo era um cara incrível. (02:28) Dá para se dizer que foi uma força agregadora em torno da qual nasce a lei de proteção de dados. Claro, passa pelo processo legislativo todo, mas ele era um cara muito agregador. (02:49) Então, temos aqui o nosso dia nacional de proteção de dados como homenagem ao nosso querido amigo Danilo Doneda. Fica aí uma mini notícia. Eu disse antes misto de felicidade, mas também com saudade. Fica homenagem aí. São coisas da vida. Enfim, furto no Louvre, Vinícius, você ficou sabendo? Sim, sim. (03:13) Famoso furto. O pessoal encostou lá uma escada, um caminhãozinho com uma escada basculante. Cortaram o vidro com uma serra giratória ou algo parecido, subiram lá dentro, roubaram, entraram e roubaram mais de 100 milhões. Está sumido mais de 100 milhões ainda. Eu tinha visto a última vez que eu vi eram 88 milhões de euros. Eram joias que ficavam na galeria de Apolo. (03:44) Eram oito peças que eram joias da coroa francesa, do que foi a coroa francesa, inclusive uma coroa também. E algumas pessoas dizem que o valor é inestimável pela questão do valor histórico, não somente o valor das joias. Não, sem dúvida, sem dúvida, sem dúvida. (04:04) Então agora no dia 19 de outubro alguns ladrões, foi uma coisa de filme. Certamente. Então esses ladrões se disfarçaram, roubaram em 7 minutos. Exatamente, mais ou menos 7 minutos. E eles se disfarçaram de prestadores de serviços para acessar lá o Louvre. A coisa mais interessante disso, Vinícius, e eu tomei, ouvintes, o cuidado de perguntar pro Vinícius se ele tinha ouvido falar disso. Então vai ser uma surpresa para ele também: o portal Check News obteve resultados de auditorias realizadas entre 2014 e 2024. E um dos problemas que eles encontraram… (04:43) É que a senha do sistema de vídeovigilância, Vinícius, sabe qual era? Não, não sei qual. A senha do sistema de vídeovigilância era Louvre. E aí eles tinham um outro sistema, eu não tentaria essa senha. Eu não, ninguém iria colocar essa senha. (05:13) Eu não tentaria. Não é possível. Mas foi. Então eles, uma das senhas era Louvre e aí eles tinham, usavam um outro sistema lá também de monitoramento que era de nome Thales e a senha do sistema era Thales também. Claro, óbvio. E além de outros problemas que envolveram o uso de sistemas operacionais antigos como Windows XP e o Windows 2000. (05:39) Qual foi o papel dessa senha fraca? Foi que, segundo li aí nos portais, eles usaram essa senha fraca para desativar o sistema de vídeovigilância enquanto eles estavam realizando o furto. E claro que o caso é meio pitoresco assim, a gente deu risada, mas enfim, não é algo engraçado assim. Bem pelo contrário, é um crime, é um assalto. E menos mal que não teve nenhuma vítima. Exato. Exato. Não teve nenhuma vítima. Mas assim, é um patrimônio. (06:14) É claro que todas as contradições da monarquia francesa, de como eram ricos e aqueles prédios, aquelas, mas enfim, isso não vem ao caso agora. O que vem ao caso, eu acho que dá para daí sim linkar esse caso meio pitoresco com as nossas temáticas aqui. Que é uma tendência que a gente vê em alguns casos de um certo descuido e até de um certo desprezo de sistemas como esse de vídeovigilância, sabe? Tem você tem casos que às vezes isso não tá bem dentro da TI, não é gerenciado pela TI, fica numa zona meio… (06:48) Fica num limbo, cara. Fica num limbo e quem deveria ser responsável por isso não sabe operar direito. E isso acaba ficando no colo da TI e aí vem aquelas demandas de: “Ah, tem que abrir para acesso remoto, para acessar, quero você poder de casa.” Aí às vezes tu vai, aí o cara: “Olha, melhor não.” “Não, mas eu quero.” (07:12) Daí vem de cima, aí a pessoa quer acessar. Aí libera, aí acessa, depois esquece que isso existe, e fica lá o acesso. Você imagina o quão importante é isso pro museu mais importante do mundo? A segurança física. Claro. Sim, sim. A segurança física ali é essencial. Uhum. Nesse caso. Sim. (07:36) São objetos dos mais variados ali que estão fisicamente guardados, sob guarda do Louvre. E nem sempre os objetos pertencem ao museu. Eles podem estar momentaneamente cedidos ao museu. Tem mais essa ainda por cima. E você tem aquela questão de que muitos desses objetos foram pegos pelos franceses em circunstâncias históricas também que hoje demandariam, na Europa de maneira geral, Londres também, a questão da restituição, da repatriação desses materiais. Claro. Mas voltando aqui para pra segurança, Vinícius, às vezes fica… (08:16) Quase como uma questão de zeladoria. Então você tem dois problemas aí. Primeiro é o papel da segurança física no mundo da segurança da informação, que é flagrantemente menosprezado e relevado. E parece que foi o caso aqui, veja, no Louvre. E até você pensa: “Não, mas ninguém teria audácia de…” Não. Sim, isso de fato aconteceu. (08:39) Fica um alerta para as organizações que prestem atenção nesse aspecto de segurança física e no aspecto de monitoramento. Porque também nós não podemos esquecer que imagens de vídeo que envolvem pessoas, que filmam pessoas de alguma forma, constituem dados pessoais e, por isso, também ficam cobertos pelas proteções da LGPD. (09:04) Então, é algo bem crítico assim. Às vezes a gente vê em alguns locais que o livre acesso às câmeras de monitoramento dentro de uma organização é algo que tem que ser visto com muito cuidado, porque pode representar também uma violação LGPD, o descuido e até mesmo o vazamento desse tipo de imagem. E que vai se estender inclusive para situações também menos observadas, que é a questão dos condomínios. A gente até falou um pouco aqui sobre biometria nos condomínios e tal, mas se insere nesse grande mundo aqui da… (09:33) Segurança física dentro da segurança da informação. Sem dúvida. E a gente tem todo aquelas, a gente não vou entrar nesse detalhe agora que a gente já conversou sobre isso várias vezes, sobre aquelas questões de vigilância em cidades. O pessoal quer crime em ambientes públicos e tal para saber de todo mundo. (09:52) Então isso numa cidade grande até dá um certo anonimato. Eu digo um certo porque tu não vai assim porque tem muita gente. Mas logo isso vai ser resolvido, já tá sendo resolvido com a IA rastreando ali, reconhecendo todo mundo, não importa o número de pessoas que tem. (10:11) Mas em cidades menores, como por exemplo Três de Maio, são 25.000 habitantes, ou cidades ainda menores que tem aqui na volta. Tu põe um sistema desses, cara, tu sabe quem foi falar com quem, a que horas. Tem as principais das nossas cidades, que são pequenininhas e que tem uma rua, duas ruas principais assim, que para ti, em qualquer lugar, tu passa nessas ruas e tu tendo algumas câmeras ali, tu já consegue saber, cara, quem tá falando com quem, quando. Isso em época de eleição, por exemplo, é extremamente útil. E essas câmeras com… (10:44) Reconhecimento do OCR. Inclusive a gente já falou sobre isso aqui em algum episódio passado. Acho que foi sobre o caso Córtex. Uma série de problemas e também basicamente ou virtualmente você consegue saber onde os carros estão e consequentemente onde os, na grande maioria das vezes, os seus donos também estão. Um problema de vigilância mesmo. Virando a chave agora pro Meta, Vinícius, e isso saiu. Deixando bem claro que nós vamos agora refletir aqui ou replicar ou reproduzir uma notícia, um furo dado… (11:24) Pela Reuters, que revelou uma informação muito crítica assim sobre a postura da Meta envolvendo anúncios fraudulentos. Ora, sério? Pois é, sério. Aqui a gente vai falar de informações que vazaram, que a Reuters teve acesso, informações de relatórios internos da Meta. (11:51) Mas assim, é possível dizer que nós no nosso cotidiano, assim, eu principalmente, cara, já vi muito, muitos anúncios de fraude. Instagram, Instagram que é eu, que o Facebook eu não acesso mais, mas Instagram já vi muito. Já tive familiares que caíram e amigos que caíram em golpes de compras feitas por anúncios no Instagram. (12:11) Então, é um negócio mais ou menos conhecido do brasileiro, assim, que tá bastante acostumado a reagir a golpes dos mais variados possíveis. E a gente começa a ficar calejado. Esses dias eu tava alugando um Airbnb essa semana aqui e a dona lá do Airbnb falou: “Ah, me passa o teu e-mail para eu conversar.” Eu disse: “Já fiquei ressabiado.” (12:35) Disse: “Não, vamos manter a conversa por aqui, por dentro da plataforma mesmo. Eu acho que é mais seguro.” E a pessoa: “Não, tudo bem, continuamos por aqui.” Mas o brasileiro ele… Porque muitos desses golpes, a ideia é tirar o cara do canal oficial para levar ele para outro canal. Mas enfim, então o que que eles descobriram desse documento confidencial que vazou? Que em 2024 eles fizeram uma projeção de que 10% dos lucros de anúncios que a Meta teve em todo ano vieram de anúncios com golpes e vendas de bens proibidos, remédios falsificados, remédios proibidos, substâncias proibidas e golpes mesmo… (13:12) Scams, golpes que eles chamam. Isso implicou em 15 bilhões de anúncios fraudulentos, o que representou 16 bilhões de dólares. O que a Meta estornou e não aceitou mais fazer os anúncios? Não, não. Auto lá não. Eles não fizeram isso. Eles ficaram com esses 16 bilhões. Coisas como, cassinos ilegais, produtos médicos proibidos, extorções sexuais, contas falsas fingindo ser celebridades e coisas do gênero. (13:47) A grande questão aqui que me parece que ficou claro é a forma como a plataforma se comportou diante disso, ou seja, ela sabia que parte da sua renda vinha de fraudes. Ela sabia que essas fraudes, vamos lá, essas fraudes estão prejudicando pessoas. Não é algo inofensivo, é algo que causa danos dos mais variados. (14:11) Se você for falar em extorção sexual, esse negócio é seriíssimo. Muito mais sério do que cassino ilegal, por exemplo, mas que também é sério. Então, e isso me parece que é o grande problema. Eles tinham conhecimento. Esse é um outro ponto. A grande maioria desses anúncios, segundo a própria Reuters, eles eram suspeitos o suficiente para serem detectados pelos próprios sistemas que eles tinham para identificação de fraudes. (14:42) Só que eles só banem os anúncios quando há ou quando houver 95% de certeza de que há uma ilegalidade naquele anúncio. E mais a forma como o algoritmo de personalização que a Meta utiliza para te mostrar novos anúncios com base nos anúncios que tu clica. Porque aquela coisa, todo mundo sabe como que é. Não é mais novidade para ninguém. (15:02) Você vai clicar em sapato, camisa e sei lá o que, mas relógio. O Instagram vai ficar te mostrando essas coisas. Por quê? Porque você tem uma personalização ali. Então o que eles descobriram é que quem clica nesses anúncios fraudulentos ficaria por conta do funcionamento do algoritmo sujeito a receber mais anúncios fraudulentos ainda por conta da personalização. Uma vez tá feito. (15:28) É, é bem curioso porque é o tipo de comportamento que se você sabe que aquele anúncio é fraudulento, você poderia não recomendar o anúncio, mas não, não é o que acontece. O que que porta-voz da Meta, o porta-voz Andy Stone, disse que os documentos vistos pela Reuters, abre aspas: “Apresentam uma visão seletiva que distorce a abordagem da Meta em relação a fraudes e golpes.” (15:58) A estimativa interna da empresa de que obteria 10% da sua receita de 2024, proveniente de golpes, scams, era aproximada e excessivamente inclusiva. E a empresa ainda determinou que o número real era menor, porque a estimativa incluía muitos anúncios legítimos também. Qual o problema além do evidente? O problema aqui é uma falta de regulação e é uma consequência direta de como é difícil você contar com a responsabilidade social de uma empresa de grande porte, sobretudo de uma Big Tech hoje, porque… (16:34) A influência dessas empresas na nossa vida é cada vez maior, mais frequente e mais intensa. A gente sequer sabe mais, Vinícius, se o que a gente tá comprando é aquilo que a gente quer comprar mesmo ou aquilo tá sendo influência dos teus hábitos de navegação e de uso de internet. É algo que já virou, não dá mais para saber, sabe? Porque daí você vai pesquisar no YouTube sobre um negócio e aquilo vai começar a aparecer e aparece em outra plataforma e quando você comprou e coisas relacionadas. Esse é um problema. Esses documentos todos e a… (17:11) Reportagem da Reuters vai ficar ali. É super completa. E o que os caras dizem é que esse comportamento da Meta permitiu que se crie, eles se tornassem um pilar de uma economia mundial de fraude. Ou seja, é por meio deles que esse tipo de fraude tá se ampliando no mundo inteiro. (17:36) Os próprios relatórios internos da própria Meta diziam que eles reconheciam que era mais fácil publicar anúncios fraudulentos na Meta do que no Google. Eles fizeram uma análise de custo benefício e análise. A gente sabe como fazer análise de custo benefício, sobretudo nos Estados Unidos, é complicado. Porque lá as multas para esse tipo de análise, ou para esse tipo de manejo assim, são bem altas, bem punitivas mesmo. (18:03) Então, o que que eles fizeram? Eles se sabiam que multas viriam. Eles tinham a noção de que poderiam ser multados, mas as multas seriam muito menores do que o lucro que eles teriam com a aceitação de anúncios fraudulentos. Vamos lá, 10% da renda com anúncios. Além do que nesse meio tempo eles despediram funcionários que lidavam com esses setores internos de fraude. E pior, eles ignoravam 96% dos avisos de fraude. (18:34) Sabe aquela coisa quando você vê o anúncio, fala: “Denunciar.” Você denuncia e aí depois recebe uma mensagem: “Ah, verificamos aqui, não tem nenhum problema.” Pois é, segundo os dados vazados e segundo a Reuters, isso seria 96%. E aí o que que eles ainda fizeram para terminar? Eles tinham uma lista interna dos o que se chamava, eu não sei como traduzir, os scamiest scammers. Scamiest scammers, scammers mais scammers. (19:07) É, os que fazeram os mais, os scammers que aplicaram mais golpes, os piores, entre os piores. E que tem? O que que esses piores fizeram? Enfim, aí o que que a Reuters verificou? Que meses depois desse relatório que vazou, cinco dessas contas chamadas de scamiest scammers ainda estavam no ar. E qual foi a estratégia deles para diminuir essas publicidades? Porque eles sabiam quem eram. Sabiam quais eram. Qual foi a estratégia deles? (19:53) Foi cobrar mais daqueles que tinham suspeitas de fraude. Então eles faziam os penalty bids, ou seja, tipo como se fosse um leilão. Então quando identificava que tinha o potencial de ser fraudulento, eles cobravam mais dessas contas. Essa é a história. A gente vai falando e parece que cada vez foi ficando pior. Mas enfim, essa história como sempre fica aqui os links e você pode, se quiser se aprofundar, pode dar uma olhada lá nessa extensa reportagem da Reuters que explica um pouco dessa dinâmica de anúncios fraudulentos na internet e talvez sirva… (20:29) Pra gente entender o porquê tamos recebendo com tanta intensidade assim anúncios fraudulentos nas redes da Meta. Perfeito, Guilherme. Trago agora o meu, a minha, que a minha filha única, a minha é uma só hoje. Tragemos. O que temos? O que temos é o seguinte, cara. (20:53) Tava a tão esperada atualização do OWASP Top. A tão esperada atualização do OWASP Top 10. Não tá ainda full, é um release candidate. Ah, mas eles prometeram para 2025. Nós estamos com release candidate, ainda estamos em 2025. Então, vamos ver se até o final do ano essa versão aqui já se torna de fato a versão final. A gente tava com a OWASP desde 21, sem atualização, sem o Top 10 sem atualização. (21:26) E então agora houve a atualização, aconteceu a atualização. E eu vou dar uma geral aqui, Guilherme, que a gente tem planos de entrar em maiores detalhes aqui em cada um desses itens. Mas só pra gente ter uma noção do que das danças das cadeiras. Eu até preparei aqui para compartilhar com o pessoal. Para quem tiver acompanhando os… Ah, aqui para quem tiver acompanhando no YouTube. Então aqui é a versão release candidate um. Não quer dizer que é o último release candidate antes da versão final, pode ser, pode ter o dois ainda… (22:01) Mas em essência eu vou destacar aqui para até para eu poder ler e para quem nos acompanha poder ler também. Nós temos, vamos ver, acho que fica, acho que fica bom assim. O Top 10 de… Eu vou de baixo para cima ou de cima para baixo? Que você prefere, Goulart? Eu vou dar. Ah, tanto faz, cara. (22:22) Fica fica à vontade aí. Eu vou de baixo para cima. Então, o A10 de… Que é o… Em 2021, o que era o 10, que era o Server-Side Request Forgery, acabou sumindo, foi retirado. É algo que foi unido ao Broken Access Control. Então o controle de acesso quebrado. O Server-Side Request Forgery é um tipo de ataque específico. Eles até explicam essa decisão de sumir com ele dali e unir ele porque tava meio, não em duplicidade, mas tava meio fora do lugar. Então ele acaba sumindo. Então o A10 de 2021 some… (23:11) E nós temos um novo A10 aqui na de 2025, que é o tratamento inadequado de condições excepcionais. Essa é uma nova, é um novo… Esse item não existia em nenhum dos itens da Top 10 de 2021. Então ele é novo, ele é algo que a gente não tinha visto ainda. Cada um desses controles, eu, por isso que eu digo que nós vamos ter que entrar em detalhes em cada um desses controles, em cada um desses itens. Ele tem uma série de CWEs… (23:50) Que é lá do MITRE, que é um catálogo de vulnerabilidades, não de vulnerabilidades conhecidas, mas tipo de fragilidades conhecidas. São tipos de fragilidades, não são vulnerabilidades específicas de um software. E eles, então, em cada um desses itens agregaram uma série dessas vulnerabilidades. (24:13) O que tem no A10 essencialmente é tratamento inadequado de erro, erros de lógica, erros que falham, coisas que falham aberto, ou seja, algo que ao dar, ao não funcionar adequadamente, acaba falhando de tal maneira que deixa algum controle, o acesso a alguma informação, acesso a alguma funcionalidade simplesmente aberto e não inacessível. E outros cenários que eles trazem. O nosso A9 de 2021, que é o Security Logging and Monitoring Failures. Então, falhas de monitoramento e de segurança e falhas de monitoramento… (24:53) Por si só. Continuou no nono lugar. Porém mudou um pouquinho o nome, virou só Logging and Alert Failures. Então, continuou no nono local, nono lugar. O A número oito, que é o Software and Data Integrity Failures, que é a falha de integridade de software e dados. Acabou se mantendo também em oitavo lugar. (25:25) Em sétimo lugar, as falhas de autenticação. Antes era falhas de autenticação e identificação, agora é só falha de autenticação que engloba tudo. Então, essencialmente aí no finalzinho diferente, na teoria da segurança. É, na verdade eles englobaram na mesma. Porque tem várias situações de overlap ali. (25:46) Para autentificar, tu tem que autenticar, tu tem que identificar. Então, acabou ficando nesse lugar. Então, o sétimo, o oitavo e o nono lugares se mantiveram exatamente os mesmos de 2021. As mudanças começam daí para cima. Então nós tivemos uma, uma caiu para quarto lugar. Agora eu vou pegar uns três no meio ali do miolo. Caiu para quarto lugar as falhas criptográficas. Em que uso de algoritmos de criptografia de maneira inadequada, vetores de inicialização errados e outras coisas mais. A… (26:25) Injeção, o Injection. Que entra aí o SQL Injection. Então você tem SQL Injection e qualquer outro tipo de injeção de comandos e coisas do gênero. Você também tá tendo essa falha. Então veio do segundo lugar, falha de criptografia veio pro quarto, Injection veio do terceiro lugar pro quinto, elas vieram juntinhas. E Design Inseguro. O Design Inseguro ele é bem genérico, não são falhas, não são erros de codificação, mas foram coisas que foram projetadas de forma insegura. (27:04) Então não foi um problema na implementação, elas foram projetadas de forma insegura, foram implementadas segundo o projeto e aí há um problema de segurança. E isso caiu de quarto lugar para sexto lugar. (27:23) Bom, quem que foi então pro segundo e terceiro lugares? Antes da gente dizer quem tá em primeiro, o segundo e terceiro lugares, eles ficaram com a Componentes… Componentes vulneráveis e desatualizados, que mudou de nome. Então, essa tava no sexto lugar, foi para terceiro, e o novo nome é Software Supply Chain Failures. Então, falhas da cadeia de fornecimento em que você usa bibliotecas, tanto bibliotecas tanto no momento do fazer o building do software, que é, em várias situações, quando tu vai fazer o building, a biblioteca não tá ali, ele vai lá e baixa a biblioteca de algum repositório na internet e usa essa biblioteca para fazer a… (28:03) Construção do software ali para fazer o deploy na sequência. Então tem vários tipos de problemas de supply chain que entraram. Então vieram lá do sexto lugar, agora em terceiro lugar. Então é algo importante a ser observado. Erros de configuração. (28:23) E aqui é muito interessante. Eles citam que muito da infraestrutura, à medida que a gente migra para nuvem, à medida que tu passa a ter a infraestrutura como um, uma, como um software que tu configuras, tem cada vez mais erros de configuração e isso fez então o Security Misconfiguration vir lá do quinto lugar e vir parar em segundo lugar em 2025. E o A número um, que já tá como número um já há pelo menos dois Top 10. São os controles, o Broken Access Control, controles de acesso quebrado, são falhas gerais de controle de acesso. Desde alterar um ID, acessar… (29:04) Informação que não deveria até tu mudar uma flag e conseguir virar administrador num sistema ou de repente fazer acesso direto a uma URL e aí tu não precisar de autenticação para acessar aquela informação. Tem de tudo ali dentro relacionado a Broken Access Control. E esse é o top, é o, é a primeira do Top 10 de 2025 do OWASP. E se manteve, vem se mantendo. (29:34) E uma coisa que me chamou atenção, Guilherme, eles até, tá aqui o dado na tela. Depois eu vou ter que olhar com mais detalhes quando a gente for destrinchar cada um desses itens aqui. Eles dizem que na média 3,73% das aplicações testadas tinham um ou mais dos 40 CWEs que estão nessa categoria. (30:03) Eu achei muito baixo. Por que que eu achei muito baixo? Porque é muito difícil tu avaliar uma aplicação que não tenha esse tipo de problema aqui. Assim, baixíssimo. Se fosse 20% eu ia dizer baixo. Então eu vou precisar entender um pouquinho melhor qual foi o conjunto de dados que eles usaram como origem. Eles fazem com base em entrevistas. Mas eles detalham um pouco melhor com base no que isso aqui foi definido porque é muito baixo, porque a gente tem muito problema de controle de acesso quebrado. (30:35) Guilherme, deixa eu só fazer, abrir um parênteses aqui, Vinícius. A minha qualidade de vídeo aqui deve tá indo terrivelmente ruim para você, porque eu tô te vendo muito mal e eu vi que a gravação do último episódio a tua tá razoável. É, eu tô vendo agora, tá, mas tá pequenininho. Tô vendo pequenininho que tá. (30:53) Eu tô vendo, tua tá não tá muito boa mesmo. Eu tô vendo o teu retorno como se fosse 8 bits, assim, eu sequer consigo ler direito o que tá na tela aqui. Então, e não é internet. Não é internet. Depois eu vou ter que descobrir isso. Mas eu só falo isso para quem tiver vendo no YouTube. (31:10) Desculpa se tiver essa qualidade que eu tô vendo aqui, tá horrível. Vou te mandar aqui para ver como é que tá aí. E então, mas você, se você puder subir um pouquinho ali, até para quem tá no YouTube, mas para mostrar aquela mudança ali, eu achei bem interessante e os que subiram. A Security Misconfiguration, isso indica tendências do que tá acontecendo no mundo também. Porque eles ordenam, não é somente 10 categorias, são 10 categorias que mais aparecem agregadas ou colocadas ali num nível hierárquico do que mais acontece para menos acontece. Então, quando a gente vê essas mudanças… (31:47) De ordenamento, o que era o quinto ali vai pro segundo, o que era o segundo vai pro quarto e por aí vai, isso diz muito sobre os ambientes, sobre o que tá acontecendo no mundo da segurança também. Agora eu quero te fazer uma pergunta. Fale, é para um testador, para uma pessoa que vai realizar testes de invasão, para um, para uma empresa como a BrownPipe que realiza testes de invasão, inclusive. Ah, entendi. (32:18) Quer fazer? Qual é o papel da OWASP para empresas como a BrownPipe? Cara, eu acho que tem, primeiro a OWASP, ela é um norte com relação ao tipo de coisa que é mais comum e sendo já indicado como mais comum, é o tipo de coisa que é mais procurada também. (32:43) Então, e ela é uma referência que a gente utiliza quando faz pentest. Não só o Top 10, mas todo o corpo do WSTG da OWASP. Porque tem a lista de testes a serem feitos mais. Mas aqui é importante, é muito interessante quando tu encontra uma vulnerabilidade que se encaixa num desses itens, tu dizer: “Olha, essa vulnerabilidade que tu tens, ela tá no Top 10. Ou seja, é algo extremamente comum.” (33:09) Eu vou ter que mutar para só um pouquinho. Vai lá. Enquanto isso, o Vinícius torce. Voltei. Então assim, ela é extremamente preocupante quando tu tens uma série de vulnerabilidades nos teus sistemas que se encaixam no Top 10. Porque isso aqui não, não é, é importante pro pentest, é mais para ajudar a classificar as coisas, mas isso aqui é muito importante para quem desenvolve. (33:37) Porque quem desenvolve, olhando isso aqui, se você der uma estudada no Top 10, você vai ver pelo menos quais são os erros mais comuns, que no final das contas vulnerabilidade acaba sendo erro de programação. Dificilmente é algo diferente disso. Acontece de ser algo diferente disso. Mas em geral são erros de programação. (34:00) Então se eu pegar por exemplo aqui o Broken Access Control A01 aqui, que é o primeiro, vou clicar nele, ele vai me trazer os 25 controles aqui, os 25 CWEs mapeados para esse item. Então tem uma série de, assim, limitação imprópria de um caminho ou de um diretório restrito, Path Traversal. Cara, isso aqui, esse erro CWE-22, essa aqui é a famosa do usar o ponto ponto para te ir para um outro lugar qualquer. Tu listar lá o que não deveria tá listado na internet, ou listar ou gravar onde não deveria ou tu ler de algum lugar que não deveria. E… (34:40) Isso aqui você encontra. Esse tipo de você encontra. Isso aqui faz parte do A01. Aí tem, vamos ver aqui, pegar um que seja comum aqui. Aqui. Permissões incorretas por default. Nossa, isso aqui nem se fala. Improper Access Control, que é muito genérico. (35:09) CSRF, você não ter proteção contra o Cross-Site Request Forgery, ou seja, eu gerar uma requisição de alguma forma que tu vai acessar o meu site, algo que eu controlo, eu vou te entregar uma requisição pronta para te fazer num sistema que tu acessa e tu vai abrir essa requisição no teu navegador e ele vai executar dentro da sessão que tu estás logado naquele momento. (35:28) E aí eu posso criar um usuário e, depende, os efeitos são os mais diversos possíveis, mas tem várias aqui. Acesso direto, acesso direto é aquele eu tento pular interfaces que fazem autenticação e tal antes de chegar no destino final e aí eu vou direto no destino final, eu consigo acessar sem autenticação. (35:50) De novo e por aí vai. Tem várias coisas aqui dentro. Então isso aqui são erros comuns que se a equipe de desenvolvimento tiver antenada, ela já vai evitar uma série de dor de cabeça e já vai reduzir um monte de coisa que quem vai fazer pentest acaba encontrando. (36:10) Agora, uma coisa muito interessante, Guilherme, agora sim, fazendo jabá para BrownPipe. Quando a gente faz pentest, a gente não pega uma ferramenta, um software qualquer e fica disparando o software, vê o que ele encontra e deu e acabou. Porque em geral ele vai encontrar aquelas coisas muito óbvias e que estejam acessíveis. (36:27) Então vai fazer um Black Box com uma ferramenta dessas, provavelmente não vai encontrar nada. Você recebeu um relatório dizendo: “Foi feito testes, foram executados não sei quantos milhares de testes e não foi encontrado nenhum problema relevante,” não sei que coisa parecida. Na BrownPipe a gente sempre recomenda que sejam feitos testes White Box. (36:51) A gente tem inclusive um vídeo sobre isso que nós vamos compartilhar no show notes depois, no nosso YouTube também para você ver lá o porquê você deve fazer White Box. A gente já percebe em razão desses movimentos todos aí que tem acontecido do sistema bancário. A gente já começa a perceber bancos demandando que as empresas, suas fornecedoras, façam testes White Box e que não podem ser automatizados. Então a BrownPipe já faz isso há muito tempo. (37:20) Óbvio que a gente usa a ferramenta também. Ou seja, tem que usar o que todo mundo utiliza para encontrar o comunzão que todo mundo acha, mas nós prezamos por um trabalho personalizado, humano, human in the loop, pra gente conseguir catar coisas que a ferramenta ainda não consegue. Talvez no futuro venha a conseguir, mas por enquanto ainda não faz. (37:44) Então, se quiser alguma coisa realmente certeira, bem documentada e que você sabe que foi revisado e não foi simplesmente rodada uma ferramenta qualquer, a BrownPipe tem um serviço certo para você aí de pentest. Jabá, Guilherme. Pronto. Certo. Eu t paste.txt Com base na transcrição do podcast fornecida, aqui está o texto corrigido e a análise solicitada. Transcrição Corrigida (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 407, gravado em 11 de novembro de 2025. Eu sou Guilherme Goulart, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá, aos nossos ouvintes. 11 de 11 hoje. Hoje tem promoção em tudo quanto é coisa. (00:31) Na época de mentirinha, mas este é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Pegue o seu café e venha conosco. E você já sabe, para entrar em contato com a gente é muito fácil, basta enviar uma mensagem para podcast@segurancalegal.com, Mastodon, Instagram, Bluesky e YouTube. (00:48) E agora, Vinícius, se você é jovem, TikTok também. Estamos lá com alguns vídeos que já estão sendo publicados, alguns cortes do podcast Segurança Legal. Convidamos você a acompanhar a nossa campanha de financiamento coletivo no Apoia-se: apoia.se/segurancalegal. Você pode contribuir e também fazer parte do nosso grupo exclusivo de apoiadores no Telegram. (01:14) Vinícius, quer mandar uma mensagem para o Isaac Melo? Um abraço para o Isaac Melo, que nos mandou algumas informações, algumas dicas de uma notícia. Nós vamos dar uma olhada nos links que você nos passou, Isaac. Muitíssimo obrigado. A gente vai dar uma olhada. Valeu, Isaac. (01:38) Continue sempre conosco. A primeira notícia, Vinícius, é um misto de felicidade pelo reconhecimento e pela sanção da Lei 15.254, agora de 2025, que definiu o Dia Nacional de Proteção de Dados. E esse Dia Nacional de Proteção de Dados, Vinícius, que é no dia 17 de julho, é nada mais nada menos do que a data de nascimento do Danilo Doneda. Para quem não sabe, o pai da proteção de dados no Brasil, um grande jurista que nos deixou recentemente. Gravamos com ele aqui no podcast, fizemos um episódio de homenagem a ele depois do seu passamento. (02:28) É uma homenagem muito justa, muito válida, porque realmente o Danilo era um cara incrível e, dá para se dizer, foi uma força agregadora em torno da qual nasce a Lei de Proteção de Dados. Claro, passa pelo processo legislativo todo, mas ele era um cara muito agregador. (02:49) Então, temos aqui o nosso Dia Nacional de Proteção de Dados como homenagem ao nosso querido amigo Danilo Doneda. Fica aí uma mininotícia. Eu disse antes, um misto de felicidade, mas também com saudade. Fica a homenagem. São coisas da vida. Furto no Louvre, Vinícius, você ficou sabendo? Sim, sim. (03:13) Famoso furto. O pessoal encostou lá uma escada, um caminhãozinho com uma escada basculante. Cortaram o vidro com uma serra giratória ou algo parecido, subiram lá, entraram e roubaram mais de 100 milhões. Está sumido mais de 100 milhões ainda. Eu tinha visto que da última vez eram 88 milhões de euros. Eram joias que ficavam na galeria de Apolo. (03:44) Eram oito peças que eram joias da coroa francesa, do que foi a coroa francesa, inclusive uma coroa também. E algumas pessoas dizem que o valor é inestimável pela questão do valor histórico, não somente o valor das joias. Sem dúvida. (04:04) Então, agora no dia 19 de outubro, alguns ladrões, foi uma coisa de filme. Certamente. Esses ladrões se disfarçaram, roubaram em só 7 minutos. Exatamente. Mais ou menos 7 minutos. E eles se disfarçaram de prestadores de serviços para acessar o Louvre. A coisa mais interessante disso, Vinícius, e eu tomei o cuidado de perguntar para o Vinícius se ele tinha ouvido falar disso, então vai ser uma surpresa para ele também, é que o portal Check News obteve resultados de auditorias realizadas entre 2014 e 2024. E um dos problemas que eles encontraram… (04:43) é que a senha do sistema de videovigilância, Vinícius, sabe qual era? Não sei qual. A senha do sistema de vídeovigilância era Louvre. E eles tinham um outro sistema, eu não tentaria essa senha. Ninguém iria colocar essa senha. (05:13) Eu não tentaria. Não é possível. Mas foi. Uma das senhas era Louvre e eles usavam um outro sistema de monitoramento também, de nome Thales, e a senha do sistema era Thales também. Claro, óbvio. E além de outros problemas que envolveram o uso de sistemas operacionais antigos como Windows XP e o Windows 2000. (05:39) Qual foi o papel dessa senha fraca? Foi que, segundo li nos portais, eles se utilizaram dessa senha fraca para desativar o sistema de videovigilância enquanto estavam realizando o furto. Claro que o caso é meio pitoresco, a gente deu risada, mas não é algo engraçado. Bem pelo contrário, é um crime, é um assalto. E menos mal que não teve nenhuma vítima. Exato. Mas é um patrimônio. (06:14) Claro que há todas as contradições da monarquia francesa, de como eram ricos e aqueles prédios, mas isso não vem ao caso agora. O que vem ao caso, e acho que dá para lincar esse caso meio pitoresco com as nossas temáticas aqui, é uma tendência que a gente vê em alguns casos de um certo descuido e até de um certo desprezo de sistemas como esse de videovigilância. Você tem casos que às vezes isso não está bem dentro da TI, não é gerenciado pela TI, fica numa zona meio… (06:48) Fica num limbo. Fica num limbo e quem deveria ser responsável por isso não sabe operar direito. Isso acaba ficando no colo da TI e aí vêm aquelas demandas de: “Tem que abrir para acesso remoto, quero acessar de casa”. Aí às vezes você vai e o cara: “Olha, melhor não”. “Não, mas eu quero”. (07:12) Daí vem de cima, a pessoa quer acessar. Aí libera, acessa, depois esquece que isso existe e fica lá o acesso. Você imagina o quão importante é isso para o museu mais importante do mundo? A segurança física. Claro. A segurança física ali é essencial nesse caso. (07:36) São objetos dos mais variados que estão fisicamente guardados, sob a guarda do Louvre. E nem sempre os objetos pertencem ao museu, eles podem estar momentaneamente cedidos. Tem mais essa ainda por cima. E você tem aquela questão de que muitos desses objetos foram pegos pelos franceses em circunstâncias históricas que hoje demandariam, na Europa de maneira geral, Londres também, a questão da restituição, da repatriação desses materiais. Mas voltando para a segurança, Vinícius, às vezes fica… (08:16) quase como uma questão de zeladoria. Você tem dois problemas aí. Primeiro, o papel da segurança física no mundo da segurança da informação, que é flagrantemente menosprezado e relevado. E parece que foi o caso aqui, veja, no Louvre. E até se pensa: “Não, mas ninguém teria a audácia de…”. Sim, isso de fato aconteceu. (08:39) Fica um alerta para as organizações que prestem atenção nesse aspecto de segurança física e no aspecto de monitoramento. Porque também não podemos esquecer que imagens de vídeo que envolvem pessoas, ou seja, que filmam pessoas de alguma forma, constituem dados pessoais e, por isso, também ficam cobertas pelas proteções da LGPD. (09:04) Então, é algo bem crítico. Às vezes a gente vê em alguns locais que o livre acesso às câmeras de monitoramento dentro de uma organização é algo que tem que ser visto com muito cuidado, porque pode representar também uma violação à LGPD, o descuido e até mesmo o vazamento desse tipo de imagem. E que vai se estender inclusive para situações também menos observadas, que é a questão dos condomínios. A gente até falou um pouco aqui sobre biometria nos condomínios, mas se insere nesse grande mundo da… (09:33) segurança física dentro da segurança da informação. Sem dúvida. E a gente tem aquelas questões de vigilância em cidades. O pessoal quer câmeras em ambientes públicos para saber de todo mundo. (09:52) Numa cidade grande até dá um certo anonimato. Eu digo um certo, porque tem muita gente. Mas logo isso vai ser resolvido, já está sendo resolvido com a IA rastreando e reconhecendo todo mundo, não importa o número de pessoas. (10:11) Mas em cidades menores, como por exemplo Três de Maio, com 25.000 habitantes, ou cidades ainda menores que tem aqui na volta, se você põe um sistema desses, sabe quem foi falar com quem, a que horas. As nossas cidades, que são pequenininhas, têm uma ou duas ruas principais. Para ir a qualquer lugar, você passa nessas ruas, e tendo algumas câmeras ali, já consegue saber quem está falando com quem, quando. Isso em época de eleição, por exemplo, é extremamente útil. E essas câmeras com… (10:44) reconhecimento do OCR. Inclusive a gente já falou sobre isso aqui em algum episódio passado, acho que sobre o caso Córtex. Uma série de problemas e também basicamente ou virtualmente você consegue saber onde os carros estão e, consequentemente, onde na grande maioria das vezes os seus donos também estão. Um problema de vigilância mesmo. Virando a chave agora para a Meta, Vinícius, e isso saiu, deixando bem claro que nós vamos agora refletir aqui, replicar ou reproduzir uma notícia, um furo dado… (11:24) pela Reuters, que revelou uma informação muito crítica sobre a postura da Meta envolvendo anúncios fraudulentos. Ora, sério? Pois é, sério. Aqui a gente vai falar de informações que vazaram, que a Reuters teve acesso, informações de relatórios internos da Meta. (11:51) É possível dizer que no nosso cotidiano, eu principalmente, já vi muitos anúncios de fraude no Instagram. O Facebook eu não acesso mais, mas no Instagram já vi muito. Já tive familiares e amigos que caíram em golpes de compras feitas por anúncios no Instagram. (12:11) Então, é um negócio mais ou menos conhecido do brasileiro, que está bastante acostumado a reagir a golpes dos mais variados possíveis, e a gente começa a ficar calejado. Esses dias eu estava alugando um Airbnb e a dona falou: “Ah, me passa o teu e-mail para eu conversar”. Eu já fiquei ressabiado. (12:35) Disse: “Não, vamos manter a conversa por aqui, por dentro da plataforma mesmo. Eu acho que é mais seguro”. E a pessoa: “Não, tudo bem, continuamos por aqui”. Mas o brasileiro… porque a ideia de muitos desses golpes é tirar a pessoa do canal oficial para levá-la para outro canal. O que eles descobriram desse documento confidencial que vazou? Que em 2024 eles fizeram uma projeção de que 10% dos lucros de anúncios que a Meta teve em todo o ano vieram de anúncios com golpes e vendas de bens proibidos, remédios falsificados, substâncias proibidas e golpes mesmo… (13:12) Scams. Isso implicou em 15 bilhões de anúncios fraudulentos, o que representou 16 bilhões de dólares. O que a Meta estornou e não aceitou mais fazer os anúncios? Não. Eles não fizeram isso. Eles ficaram com esses 16 bilhões. Coisas como cassinos ilegais, produtos médicos proibidos, extorsões sexuais, contas falsas fingindo ser celebridades e coisas do gênero. (13:47) A grande questão aqui que me parece que ficou claro é a forma como a plataforma se comportou diante disso. Ou seja, ela sabia que parte da sua renda vinha de fraudes. Ela sabia que essas fraudes estão prejudicando pessoas. Não é algo inofensivo, é algo que causa danos dos mais variados. (14:11) Se você for falar em extorsão sexual, esse negócio é seríssimo. Muito mais sério do que cassino ilegal, por exemplo, mas que também é sério. E isso me parece que é o grande problema. Eles tinham conhecimento. Esse é um outro ponto. A grande maioria desses anúncios, segundo a própria Reuters, eram suspeitos o suficiente para serem detectados pelos próprios sistemas que eles tinham para identificação de fraudes. (14:42) Só que eles só banem os anúncios quando há 95% de certeza de que há uma ilegalidade. E mais, a forma como o algoritmo de personalização que a Meta utiliza para te mostrar novos anúncios com base nos que você clica. Porque aquela coisa, todo mundo sabe como é. (15:02) Você vai clicar em sapato, camisa, sei lá, relógio. O Instagram vai ficar te mostrando essas coisas. Por quê? Porque você tem uma personalização ali. O que eles descobriram é que quem clica nesses anúncios fraudulentos ficaria, por conta do funcionamento do algoritmo, sujeito a receber mais anúncios fraudulentos ainda por conta da personalização. Uma vez feito… (15:28) É bem curioso, porque é o tipo de comportamento que, se você sabe que aquele anúncio é fraudulento, poderia não recomendar mais anúncios, mas não é o que acontece. O porta-voz da Meta, Andy Stone, disse que os documentos vistos pela Reuters, abre aspas: “Apresentam uma visão seletiva que distorce a abordagem da Meta em relação a fraudes e golpes”. (15:58) A estimativa interna da empresa de que obteria 10% da sua receita de 2024, proveniente de golpes e scams, era aproximada e excessivamente inclusiva. E a empresa ainda determinou que o número real era menor, porque a estimativa incluía muitos anúncios legítimos também. Qual o problema além do evidente? O problema aqui é a falta de regulação e uma consequência direta de como é difícil contar com a responsabilidade social de uma empresa de grande porte, sobretudo de uma Big Tech hoje, porque… (16:34) a influência dessas empresas na nossa vida é cada vez maior, mais frequente e mais intensa. A gente sequer sabe mais, Vinícius, se o que a gente está comprando é aquilo que a gente quer mesmo ou se está sendo influência dos nossos hábitos de navegação e de uso de internet. É algo que já virou, não dá mais para saber. Porque você vai pesquisar no YouTube sobre um negócio, aquilo vai começar a aparecer em outra plataforma e, quando você vê, já comprou e coisas relacionadas. Esse é um problema. Esses documentos e a… (17:11) reportagem da Reuters é super completa. E o que dizem é que esse comportamento da Meta permitiu que eles se tornassem um pilar de uma economia mundial de fraude. Ou seja, é por meio deles que esse tipo de fraude está se ampliando no mundo inteiro. (17:36) Os próprios relatórios internos da Meta diziam que eles reconheciam que era mais fácil publicar anúncios fraudulentos na Meta do que no Google. Eles fizeram uma análise de custo-benefício, e a gente sabe como fazer análise de custo-benefício, sobretudo nos Estados Unidos, é complicado, porque lá as multas para esse tipo de manejo são bem altas, bem punitivas mesmo. (18:03) Então, o que eles fizeram? Eles sabiam que multas viriam. Tinham a noção de que poderiam ser multados, mas as multas seriam muito menores do que o lucro que eles teriam com a aceitação de anúncios fraudulentos. Vamos lá, 10% da renda com anúncios. Além do que, nesse meio tempo, eles despediram funcionários que lidavam com esses setores internos de fraude. E pior, ignoravam 96% dos avisos de fraude. (18:34) Sabe quando você vê o anúncio, denuncia e depois recebe uma mensagem: “Ah, verificamos aqui e não tem nenhum problema”? Pois é, segundo os dados vazados e segundo a Reuters, isso aconteceria em 96% dos casos. E o que eles ainda fizeram para terminar? Eles tinham uma lista interna do que se chamava “os scamiest scammers”. Os scammers mais scammers. (19:07) Os que aplicaram mais golpes, os piores entre os piores. E o que a Reuters verificou? Que meses depois desse relatório que vazou, cinco dessas contas chamadas de “scamiest scammers” ainda estavam no ar. E qual foi a estratégia deles para diminuir essas publicidades? Porque eles sabiam quem eram, sabiam quais eram. (19:53) Foi cobrar mais daqueles que tinham suspeitas de fraude. Então eles faziam os “penalty bids”, ou seja, como se fosse um leilão. Quando identificavam que tinha o potencial de ser fraudulento, cobravam mais dessas contas. Essa é a história. A gente vai falando e parece que cada vez fica pior. Mas essa história, como sempre, ficam aqui os links, e você pode, se quiser se aprofundar, dar uma olhada nessa extensa reportagem da Reuters que explica um pouco dessa dinâmica de anúncios fraudulentos na internet e talvez sirva… (20:29) para a gente entender o porquê estamos recebendo com tanta intensidade anúncios fraudulentos nas redes da Meta. Perfeito, Guilherme. Trago agora a minha única notícia de hoje. O que temos é o seguinte: (20:53) a tão esperada atualização do OWASP Top 10. Não está ainda finalizada, é um “release candidate”. Eles prometeram para 2025. Estamos com um “release candidate”, ainda em 2025. Então, vamos ver se até o final do ano essa versão se torna a versão final. Estávamos com o OWASP Top 10 sem atualização desde 2021. (21:26) E então agora houve a atualização. Vou dar uma geral aqui, Guilherme, já que temos planos de entrar em maiores detalhes em cada um desses itens. Mas só para termos uma noção da dança das cadeiras. Eu até preparei aqui para compartilhar com o pessoal que estiver acompanhando no YouTube. Esta é a versão “release candidate 1”. Não quer dizer que seja o último “release candidate” antes da versão final, pode haver o dois ainda. (22:01) Mas, em essência, vou destacar aqui. Vou de baixo para cima ou de cima para baixo? O que você prefere, Goulart? Tanto faz. (22:22) Fique à vontade. Vou de baixo para cima. O A10 de 2021, que era o “Server-Side Request Forgery” (SSRF), acabou sumindo, foi retirado. É algo que foi unido ao “Broken Access Control” (Controle de Acesso Quebrado). O SSRF é um tipo de ataque específico. Eles até explicam a decisão de retirá-lo e unir a outro item porque estava meio fora do lugar. Então, o A10 de 2021 some… (23:11) e nós temos um novo A10 em 2025, que é o “Tratamento Inadequado de Condições Excepcionais”. Este item é novo. Cada um desses itens tem uma série de CWEs… (23:50) que é do MITRE, um catálogo de tipos de fragilidades conhecidas, não de vulnerabilidades específicas de um software. E eles, em cada um desses itens, agregaram uma série dessas vulnerabilidades. (24:13) O que tem no A10 essencialmente é tratamento inadequado de erro, erros de lógica, coisas que “falham aberto”, ou seja, algo que, ao não funcionar adequadamente, acaba falhando de tal maneira que deixa algum controle ou acesso simplesmente aberto, e não inacessível, entre outros cenários. O nosso A9 de 2021, “Security Logging and Monitoring Failures” (Falhas de Log e Monitoramento de Segurança)… (24:53) continuou no nono lugar, porém mudou um pouquinho o nome, virou só “Logging and Alerting Failures”. O A8, “Software and Data Integrity Failures” (Falhas de Integridade de Software e Dados), acabou se mantendo também em oitavo lugar. (25:25) Em sétimo lugar, as “Falhas de Autenticação”. Antes era “Falhas de Autenticação e Identificação”, agora é só “Falha de Autenticação”, que engloba tudo. Essencialmente, um finalzinho diferente na teoria da segurança. Na verdade, eles englobaram na mesma, porque tem várias situações de sobreposição ali. (25:46) Para autenticar, você tem que identificar. Então, acabou ficando nesse lugar. O sétimo, o oitavo e o nono lugares se mantiveram exatamente os mesmos de 2021. As mudanças começam daí para cima. Tivemos uma que caiu para quarto lugar. Agora vou pegar os três do meio. Caíram para quarto lugar as “Falhas Criptográficas”, como o uso de algoritmos de criptografia de maneira inadequada, vetores de inicialização errados e outras coisas mais. (26:25) “Injection” (Injeção), que inclui o SQL Injection e qualquer outro tipo de injeção de comandos. Essa falha veio do terceiro lugar para o quinto. E “Design Inseguro”, que é bem genérico, não são erros de codificação, mas coisas que foram projetadas de forma insegura. (27:04) Não foi um problema na implementação, foram projetadas de forma insegura, implementadas segundo o projeto, e aí há um problema de segurança. E isso caiu de quarto para sexto lugar. (27:23) Bom, quem foi então para segundo e terceiro lugares? Antes de dizermos quem está em primeiro, o segundo e terceiro lugares ficaram com “Componentes Vulneráveis e Desatualizados”, que mudou de nome. Estava em sexto lugar, foi para terceiro, e o novo nome é “Software Supply Chain Failures” (Falhas na Cadeia de Suprimentos de Software), que é quando você usa bibliotecas, tanto no momento de construir o software, que às vezes ele baixa de algum repositório na internet… (28:03) para fazer a construção. Então, tem vários tipos de problemas de “supply chain” que entraram. Veio do sexto para o terceiro lugar, algo importante a ser observado. “Erros de Configuração”. (28:23) E aqui é muito interessante. Eles citam que, à medida que migramos para a nuvem e passamos a ter a infraestrutura como software que você configura, há cada vez mais erros de configuração. Isso fez o “Security Misconfiguration” vir do quinto para o segundo lugar em 2025. E o número 1, que já está como número 1 há pelo menos dois Top 10s, é o “Broken Access Control” (Controle de Acesso Quebrado), que são falhas gerais de controle de acesso. Desde alterar um ID… (29:04) para acessar informação que não deveria, até mudar uma flag e conseguir virar administrador em um sistema, ou fazer acesso direto a uma URL e não precisar de autenticação. Tem de tudo ali dentro relacionado a “Broken Access Control”. Esse é o primeiro do Top 10 de 2025 do OWASP. E vem se mantendo. (29:34) Uma coisa que me chamou a atenção, Guilherme: eles dizem que, na média, 3,73% das aplicações testadas tinham um ou mais dos 40 CWEs que estão nessa categoria. (30:03) Eu achei muito baixo. Por quê? Porque é muito difícil avaliar uma aplicação que não tenha esse tipo de problema. Baixíssimo. Se fosse 20%, eu diria que é baixo. Vou precisar entender um pouquinho melhor qual foi o conjunto de dados que eles usaram como origem. Eles fazem com base em entrevistas, mas detalham um pouco melhor a base para essa definição, porque é muito baixo. Temos muitos problemas de controle de acesso quebrado. (30:35) Guilherme, deixa eu só fazer um parênteses. A minha qualidade de vídeo aqui deve estar terrivelmente ruim para você, porque estou te vendo muito mal, e vi que na gravação do último episódio a sua está razoável. É, estou vendo agora, mas está pequenininho. (30:53) A sua qualidade não está muito boa mesmo. Estou vendo o seu retorno como se fosse 8 bits, sequer consigo ler direito o que está na tela. E não é internet. Depois vou ter que descobrir o que é. Mas falo isso para quem estiver vendo no YouTube. (31:10) Desculpa se a qualidade estiver como estou vendo aqui, está horrível. Se você puder subir um pouquinho ali, até para quem está no YouTube, para mostrar aquela mudança, achei bem interessante as que subiram. O “Security Misconfiguration” indica tendências do que está acontecendo no mundo. Porque eles ordenam; não são somente 10 categorias, são as 10 que mais aparecem, hierarquizadas da que mais acontece para a que menos acontece. Quando vemos essas mudanças… (31:47) de ordenamento, o que era o quinto vai para o segundo, o que era o segundo vai para o quarto, e por aí vai. Isso diz muito sobre os ambientes e sobre o que está acontecendo no mundo da segurança. Agora quero te fazer uma pergunta. Para um testador, uma pessoa que vai realizar testes de invasão, para uma empresa como a BrownPipe, qual é o papel do OWASP? (32:18) Quer fazer? Qual é o papel do OWASP para empresas como a BrownPipe? Cara, primeiro, o OWASP é um norte com relação ao tipo de coisa que é mais comum e, sendo indicado como mais comum, é o tipo de coisa que é mais procurada também. (32:43) E é uma referência que utilizamos quando fazemos pentest. Não só o Top 10, mas todo o corpo do WSTG do OWASP, porque tem a lista de testes a serem feitos. Mas aqui é importante; é muito interessante quando você encontra uma vulnerabilidade que se encaixa em um desses itens, dizer: “Olha, essa vulnerabilidade que você tem está no Top 10, ou seja, é algo extremamente comum”. (33:09) Vou ter que mutar um pouquinho. Vai lá. Voltei. Então, é extremamente preocupante quando você tem uma série de vulnerabilidades nos seus sistemas que se encaixam no Top 10. Porque isso é muito importante para quem desenvolve. (33:37) Porque quem desenvolve, olhando isso aqui, se der uma estudada no Top 10, vai ver pelo menos quais são os erros mais comuns. No final das contas, vulnerabilidade acaba sendo erro de programação. Dificilmente é algo diferente disso. Acontece, mas em geral são erros de programação. (34:00) Então, se eu pegar por exemplo aqui o “Broken Access Control”, o A01, que é o primeiro, e clicar nele, ele vai me trazer os 25 CWEs mapeados para este item. Tem uma série deles, como “limitação imprópria de um caminho ou de um diretório restrito”, o “Path Traversal”. Cara, esse erro, CWE-22, é o famoso “usar o ponto ponto” para ir para outro lugar, listar o que não deveria estar na internet, gravar onde não deveria ou ler de onde não deveria. (34:40) Isso você encontra. Esse tipo de coisa faz parte do A01. Tem também, vamos ver, um que seja comum aqui. Permissões incorretas por padrão. Nossa, isso nem se fala. “Improper Access Control”, que é muito genérico. (35:09) CSRF, não ter proteção contra o “Cross-Site Request Forgery”. Ou seja, eu gero uma requisição de alguma forma, você acessa o meu site, algo que eu controlo, eu te entrego uma requisição pronta para fazer em um sistema que você acessa, você abre essa requisição no seu navegador e ele a executa dentro da sua sessão logada. (35:28) E aí eu posso criar um usuário… os efeitos são os mais diversos possíveis. Acesso direto é aquele em que eu tento pular interfaces que fazem autenticação para chegar no destino final, e aí eu vou direto no destino final e consigo acessar sem autenticação. (35:50) E por aí vai. Tem várias coisas aqui dentro. São erros comuns que, se a equipe de desenvolvimento estiver antenada, já vai evitar muita dor de cabeça e reduzir um monte de coisas que quem vai fazer pentest acaba encontrando. (36:10) Agora, uma coisa muito interessante, Guilherme, fazendo o jabá para a BrownPipe. Quando a gente faz pentest, não pegamos uma ferramenta qualquer, disparamos, vemos o que ela encontra e acabou. Porque, em geral, ela vai encontrar aquelas coisas muito óbvias e que estejam acessíveis. (36:27) Se fizer um “Black Box” com uma ferramenta dessas, provavelmente não vai encontrar nada. Você recebe um relatório dizendo: “Foram executados não sei quantos milhares de testes e não foi encontrado nenhum problema relevante”. Na BrownPipe, a gente sempre recomenda que sejam feitos testes “White Box”. (36:51) Temos inclusive um vídeo sobre isso que vamos compartilhar no show notes. Já percebemos, em razão dos movimentos do sistema bancário, bancos demandando que suas empresas fornecedoras façam testes “White Box” e que não podem ser automatizados. A BrownPipe já faz isso há muito tempo. (37:20) Óbvio que usamos ferramentas também. Ou seja, tem que usar o que todo mundo utiliza para encontrar o “comunzão”, mas nós prezamos por um trabalho personalizado, humano, “human in the loop”, para conseguir catar coisas que a ferramenta ainda não consegue. Talvez no futuro venha a conseguir, mas por enquanto não. (37:44) Então, se quiser algo realmente certeiro, bem documentado e que você sabe que foi revisado e não simplesmente rodado por uma ferramenta qualquer, a BrownPipe tem o serviço certo para você de pentest. Fim do jabá, Guilherme. Certo. Estou te mandando o link para saber se é este vídeo mesmo a que você se referiu, porque se for, é só colocar no show notes para publicarmos depois. O vídeo é… você me mandou um link. É este vídeo? “Modelagem de Ameaças vs. Pentest”, eu acho. (38:20) Não é esse. Mas se não for, vamos colocar esse também. E eu vou pedir para a Camila me passar o vídeo do Pentest mesmo. Bom, para terminar, Vinícius, inclusive tinha uma notícia nova. Às vezes a pauta vai sendo construída durante o episódio. (38:49) Lembrei, pelo menos o café. Sim, é o café. Tinha lido isso ontem e me chamou a atenção, acho que podemos desenvolver depois e até saber se o próprio Bruce Schneier está certo. Ele disse, em tese, para parar de usar esses browsers “agênticos”. Não estou achando agora, mas, para parar de usar, porque acaba constituindo um tipo de vulnerabilidade que, segundo ele, seria implícita, estaria no… (39:30) core da inteligência artificial, que seria a impossibilidade de ela conseguir distinguir instruções legítimas de instruções que não são legítimas. Não vou conseguir achar aqui, mas de qualquer forma, fica para reflexão e talvez para um futuro episódio. (39:50) Essa questão que já vem se colocando, das IAs lançando seus browsers com agentes, e como essas explorações podem… Ele disse que não é um probleminha. Ele disse que é “o” problema, segundo Bruce Schneier. Mas, fecha parênteses, só para deixar isso destacado. (40:12) O próximo tópico é sobre a simplificação do GDPR. Nós estamos no momento, e quem acompanha o Segurança Legal sabe que mundialmente a questão da conformidade com normas de proteção de dados e também com a nova dinâmica da IA tem colocado pressões regulatórias no mundo inteiro. (40:46) Pressões regulatórias em qual sentido? Contra os próprios estados que tentam regular essas tecnologias, porque muitas das Big Techs se posicionam no sentido de que “as regulações são duras demais, é difícil de empreender, está afetando o desenvolvimento de novas tecnologias”. (41:11) Então, esse caminho trilhado sobretudo pelos Estados Unidos também chega na União Europeia, com o que chamaram de “digital check”, que é uma tentativa da Comissão Europeia de simplificar o GDPR. Teria vazado uma versão. Pelo que entendi, são tantas coisas para a gente ler, documentos de 150 páginas, mas seriam alterações que já estariam sendo encaminhadas e que poderiam culminar, se aprovadas, na… (41:47) em uma simplificação do GDPR. Algumas das alterações propostas: primeiro, seria uma alteração na própria concepção do que é dado pessoal, que é o núcleo de qualquer legislação de proteção de dados. É a definição mais importante. Sem dúvida, porque é o objeto da lei. Se você não definir claramente o objeto… (42:16) Assim como no direito do consumidor a relação de consumo é o objeto da proteção, aqui são o dado pessoal e as situações em que dados pessoais são tratados. A ideia seria alterar essa concepção para afastar a aplicação, por exemplo, no caso de uso de pseudônimos. (42:35) Então, pseudônimo, eu incluo um código para o usuário e a lei não se aplicaria. E a gente sabe que atribuir um código a uma pessoa é uma das formas… sobretudo quando esses códigos transitam em ecossistemas diferentes, a coisa mais fácil é identificar aquela pessoa por código, principalmente nos telefones modernos. (43:00) Enfim, mudar também o regime de dados pessoais sensíveis. A proteção dos dados sensíveis só ocorreria se o tratamento criasse riscos significativos ou que revelasse diretamente situações sensíveis, no sentido de afastar potenciais tratamentos de dados sensíveis que não causassem esses riscos. Ou ainda, afastar proteções em situações de comparação, referência cruzada ou dedução. (43:34) Esses dois aqui me parecem que desmontam muito o regime de proteção por mexer no… É fazer uma mudança genética na lei. É mudar a constituição genética dela, se fosse fazer uma comparação biológica. Sempre deixando claro que biologia talvez seja a disciplina mais longe da minha área de conhecimento. (43:57) Sabe aquela coisa de “baleia é mamífero”? Madeira está longe, hein? Sei que baleia é. Mas esses dias teve uma discussão se tubarão era peixe. Eu sabia que tubarão era peixe, cartilaginoso inclusive. (44:22) Então, limitações nos direitos dos titulares. O titular só poderia exercer seus direitos para propósitos de proteção de dados. E aí entra o pessoal do NOYB (None of Your Business), do Max Schrems lá da Europa, que é um think tank, uma ONG de proteção de dados e segurança. E eles estão se posicionando muito contra essa alteração. (44:47) Na visão deles, seria uma forma de barrar a obtenção de dados do próprio titular em situações como direito do trabalho, retificações e apagamentos em situações de crédito. Ou seja, seria uma forma de diminuir o alcance da pessoa poder obter seus próprios dados em circunstâncias que fugissem diretamente de tratamento de dados pessoais. Também, isentar os controladores de fornecer informações de privacidade… vou ler aqui: “Quando os dados pessoais… (45:16) tiverem sido coletados num contexto, em uma relação clara e circunscrita com um controlador que exerça uma atividade não intensiva em dados e houver motivos razoáveis para presumir que os titulares dos dados já possuem as informações necessárias”. É um agregado de possibilidades que, basicamente, isenta o controlador de dar informação, presumindo que você já a tem. Isso quebra totalmente o princípio da transparência e o princípio da informação, que já é tão difícil de exercer diante… (45:51) das dificuldades que hoje já existem para obtermos informações muitas vezes. E o choque maior, além desses outros que me preocupam, seria colocar, dentro do legítimo interesse, que é uma das hipóteses de tratamento, o uso de dados pessoais para treinamento de IA. Isso constituindo um legítimo interesse. A operação de sistemas de IA para as empresas, diante dessa abertura, seria quase como um coringa. (46:32) Ou seja, “eu posso tratar dados pessoais para treinar meus sistemas de IA porque eu teria o legítimo interesse para isso”. E aí também desmontaria todas aquelas situações que vimos, por exemplo, aqui no Brasil no caso da Meta, de querer treinar o Meta AI com os dados de todo mundo. (46:54) E aí teve aquela história em que a ANPD se envolveu, veio a informação de que eles avisaram e depois você tinha que fazer o opt-out. Bom, mesmo diante de legítimo interesse, tem que avisar. Mas isso afastaria toda a problemática que se discute hoje de você autorizar ou não o uso dos seus dados para treinamento de modelos de IA. Basicamente, o que o Max Schrems colocou foi que, passando essa e algumas outras alterações propostas, isso seria um enorme retrocesso da proteção de dados na Europa inteira. A ideia seria… (47:28) facilitar e ajudar pequenos negócios. Essa é a proposta. E veja, eu acredito, só para deixar bem claro, fazendo um contraponto, que é possível simplificar legislações de proteção de dados e que, para pequenas empresas, pode ser muito desafiador respeitar esse tipo de legislação. Aqui no Brasil, por exemplo, temos os agentes de tratamento de pequeno porte com regras flexibilizadas. (47:59) É um exemplo interessante. Mas essas mudanças, como estão sendo feitas, alterando o código genético da norma, eu vou na linha do Max Schrems, que diz que só iria favorecer as Big Techs. (48:19) E por que isso nos interessa? “Ah, mas eu estou aqui no Brasil”. Porque nós seguimos esse modelo europeu, nos inspiramos nele. E isso acontecendo lá, acredito que os reflexos apareceriam aqui bem rapidamente. Porque se mudou lá, a gente tem que se adequar, por causa daquele reconhecimento do mesmo nível de proteção do Brasil. (48:50) Então, acho que seria quase como um efeito em cadeia. É algo para ficarmos atentos. Tem também tentativas de simplificar o AI Act, de adiar a entrada em vigor, mas eu vou na mesma linha do Max Schrems. Acho bem perigoso e me parece que a ideia é, sobretudo, favorecer a IA, ou seja, retirar possíveis controles que os usuários ainda teriam nesses contextos de uso de dados para treinamento. (49:17) Beleza. Essa foi longa. Você quer fazer café expresso e café frio? Pois é, eu lembrei que já fazia um tempão que não fazíamos isso. Se você está nos ouvindo e não sabe do que estamos falando, nos cafés antigos, pegávamos uma das notícias e, quando era boa, dávamos um café expresso, e quando achávamos que não era tão boa… Não necessariamente para a notícia. (49:48) Não precisava nem ter sido notícia, era para o agente da notícia, para a pessoa ou para uma empresa. Para alguma coisa. Para quem seria o café expresso, Guilherme? O Café Expresso é para o Dia Nacional da Proteção de Dados, em homenagem ao Danilo Doneda. Acho que é um café expresso para essa situação. (50:15) E o café frio? É sempre difícil dar o café frio, porque é uma crítica. O café frio vai para os administradores do sistema de monitoramento do Louvre, que usaram a senha “Louvre”. (50:41) É um café que ficou na rua no inverno parisiense e gelou. Pode ser. Acho que é um bom recomeço para o café frio e o café expresso. A gente não pode esquecer. Um belo dia a gente parou e nunca mais trouxe de volta. (51:02) Mas, fora a brincadeira, gente, falando sério, esse caso é bem importante. Prestem atenção nos sistemas de videomonitoramento, nesses sistemas que às vezes estão largados, que não são de ninguém, que têm acesso remoto e que, dependendo do contexto, podem ser usados para situações bem sérias. Não é só quem tem joia que precisa disso. (51:19) Bom, então era isso. Esperamos que tenham gostado do episódio de hoje. Aguardamos todos e todas no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 11/4/25 | ![]() #406 – IA, criatividade e educação | Neste episódio, falamos sobre como a inteligência artificial está desafiando a criatividade humana e o que estudos recentes, como um artigo da Nature, revelam sobre quem ainda leva a melhor em tarefas de pensamento divergente. Guilherme Goulart e Vinícius Serafim mergulham em uma análise sobre os limites e potenciais da inteligência artificial (IA) na criatividade e educação. Com base em artigos científicos, eles exploram como a tecnologia impacta desde a geração de ideias originais até a ética por trás dos algoritmos. O debate aborda a segurança da informação, o direito da tecnologia e como a neurociência ajuda a entender o processo criativo. Discutindo modelos como GPT-4, o episódio questiona se a IA pode realmente superar a capacidade humana em tarefas criativas e quais as implicações disso para o futuro. Assine, siga e avalie o nosso podcast para não perder nenhuma discussão. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Best humans still outperform artificial intelligence in a creative divergent thinking task Livro – The Creative Mind: Myths and Mechanisms Criatividade: O flow e a psicologia das descobertas e das invenções Vídeo – Debate on AI & Mind – Searle & Boden (1984) Inteligência artificial: Uma brevíssima introdução Delegation to artificial intelligence can increase dishonest behaviour Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers Livro – A fábrica de cretinos digitais: Os perigos das telas para nossas crianças Livro – Faça-os ler!: Para não criar cretinos digitais Livro – Faites-les lire !: Pour en finir avec le crétin digital (edição francesa) More Articles Are Now Created by AI Than Humans The Future of Jobs Report 2025 – World Economic Forum Imagem do Episódio – Le fils de l’homme de René Magritte 📝 Transcrição do Episódio (00:06) Sejam todos muito bem-vindos. Estamos de volta com o Segurança Legal, seu podcast de segurança da informação, direito da tecnologia e tecnologia e sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Ei, Guilherme, tudo bem? Olá aos nossos ouvintes.(00:26) Sempre lembrando que para nós é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Vocês já sabem, basta enviar uma mensagem para o podcast@segurançalegal.com, YouTube, Mastodon, Blue Sky, Instagram e, agora, Vinícius e ouvintes, no TikTok. Se você é jovem, porque nós, eu e o Vinícius, somos velhos, não temos TikTok, mas se você for jovem e quiser nos seguir lá no TikTok, em breve teremos também conteúdos, alguns cortes. É isso que a gente está preparando. Alguns cortes de episódios de várias coisas úteis.(00:57) A questão do podcast é que cada vez mais você que nos acompanha aqui sabe, a gente é desafiado a consumir conteúdos mais rápidos. Então, o podcast Segurança Legal também vai… Quer ver a versão mais longa? Tem aqui, fique com a gente, vá lavar sua louça, fazer sua academia e fazer qualquer coisa.(01:21) Ou quer também acompanhar conteúdos mais curtos? A gente também está preparando isso para vocês. Além do blog da Brown Pipe, basta acessar o www.brownpipe.com.br, ver o blog, que tem notícias, e consegue se inscrever no mailing e tudo mais, certo, Vinícius? Certíssimo, Guilherme. Bom, neste episódio a gente vai fazer uma revisão de alguns artigos que nos chamaram a atenção.(01:45) Alguns deles já apareceram aqui no podcast ano passado, mas a gente quer uni-los em uma conversa um pouco mais direcionada, tratando sobre alguns dos problemas e das problemáticas que a gente tem visto, assim como algumas das questões mais importantes.(02:05) Claro, tem se escrito muito nos últimos anos e a IA assumiu uma importância em todas as áreas, dá para se dizer. No direito, na tecnologia, na educação, na administração, nas artes gráficas digitais, por que não, na escrita, na filosofia. A parte ética, no final das contas, acaba sendo um fio condutor de todos esses artigos que a gente vai comentar hoje, né, Vinícius? São artigos que a gente citou muitas vezes “en passant”, meio, “Ah, tem um artigo tal que fala sobre isso”. E a ideia hoje é a gente trazer, não todos eles, mas.(02:44) pegamos aqueles que a gente considerou mais interessantes e falar um pouco da metodologia e dos resultados obtidos. É claro que vai ter os links de todos eles no show notes, se você quiser se aprofundar em qualquer um desses estudos. A ideia é essa, a gente dar uma aprofundada um pouquinho maior em cada um deles.(03:12) Seria uma nova época de novas luzes que a gente está vivendo, ou não? Eu acho que o primeiro ponto aqui é a questão da criatividade. É uma das grandes questões, eu acho, do uso da IA atualmente. Primeiro, o que é criatividade? E aí tu vês como todos esses temas são complexos. A gente já falou várias vezes sobre isso.(03:32) E quando a gente começa a falar em criatividade, claro, não vai ser o objeto deste estudo especificamente, mas a gente acaba descambando para questões de neurociência, de como o cérebro funciona, de onde vêm as ideias, de como as pessoas aprendem. E aí isso acaba conectando a IA também com a educação. É uma das áreas, uma das partes mais instigantes disso tudo. Pode ela ser criativa de verdade ou não? E até que ponto nós… e o que é criatividade e até que ponto nós podemos.(04:07) ultrapassar em tarefas criativas. E o primeiro artigo, Guilherme, foi um artigo publicado em 2023 na Nature. O título é: “Os melhores humanos ainda superam a inteligência artificial em uma tarefa criativa de pensamento divergente”. Então, só para saber, os modelos que foram utilizados neste estudo, naquela época, foram o chat GPT, a aplicação Chat GPT com o GPT 3.5 e o 4.(04:31) E uma outra que eu confesso que eu nunca utilizei, que eu fiquei sabendo que existia através deste artigo, que é a copy.ai. Aliás, “copy” é um bom nome para inteligência artificial, porque ela copia tudo para dentro. Mas essa ferramenta copy.ai, que não é da OpenAI, usa o GPT-3, que é o modelo da OpenAI.(05:02) Então, a ideia é que fosse solicitado aos participantes humanos e às IAs que criassem usos incomuns e criativos para objetos cotidianos. Seriam quatro objetos: corda, caixa, lápis e vela. A gente não vai entrar em muitos detalhes aqui, mas a ideia, então, era pensar em usos criativos para isso. Resultados. Guilherme, quer trazer o primeiro deles? Não, não. Pode tocar. Então, tá. Resultados.(05:25) Primeiro, em média, os chatbots de IA superaram os participantes humanos. Na média, a IA foi mais consistente. Então, os humanos tiveram uma variabilidade maior em termos de boas ideias, foram muito criativos e, ao mesmo tempo, tiveram ideias horrorosas que a IA, na média, não atingiu.(05:53) As melhores ideias, embora tenha tido essa superação da IA com relação à média humana, as melhores ideias humanas foram iguais ou superaram as dos chatbots. Então, as melhores ideias humanas empataram com as dos chatbots ou foram melhores. Portanto, os melhores humanos ainda superaram esses modelos.(06:19) Notem que eu coloquei “ainda” aqui na frase. No entanto, teve algumas instâncias, ou seja, algumas situações em que a IA alcançou pontuações máximas mais altas. Então, teve o caso da copy.ai, em que a resposta para “lápis” foi considerada superior à máxima humana correspondente, e também duas sessões do ChatGPT com o 3 e o 4 em resposta a “box”, ou seja, a caixa, onde as pontuações subjetivas máximas também foram superiores às máximas humanas. Então, no final das contas, este artigo, e é um artigo que, para quem tiver interesse, eu recomendo a leitura, porque a gente está falando aqui.(06:56) de GPT-4. Nós já estamos no GPT-5, já temos Sonnet 4.5, Opus e por aí vai. Já temos modelos bem mais capazes, que escrevem bem melhor do que esses modelos anteriores e que também geram um conteúdo melhor. Mas é interessante a gente ver essa comparação feita em 2023, mostrando, então, que os melhores humanos ainda superam a inteligência artificial, mas ela está cada vez mais próxima. E alguns estudos que a gente tem adiante vão, inclusive, chamar a atenção para isso.(07:35) E aí você tem outra coisa, que eu acho que é a dinâmica de como a IA funciona nesses casos. Se a gente parte do pressuposto de que ela vai atuar levando em consideração essa proximidade estatística entre conceitos e palavras e, a partir daí, produzir coisas novas, o artigo chama a atenção de que uma das possibilidades de você definir, uma das formas de definir a criatividade, é justamente essa capacidade de criar ideias originais e úteis e também de fazer associações entre conceitos vagamente relacionados, ou seja, relacionar coisas que, em.(08:16) princípio, não seriam tão evidentemente relacionadas. Claro que a IA também, se for programada para fazer isso, ela conseguiria. Eu acho que é plenamente possível. Quando a gente olha como uma matriz de IA funciona, tem um gráfico aqui, depois, enquanto você estiver falando, eu vou ver se encontro para botar no show notes também, mas ele simula a proximidade entre palavras dentro de um modelo de IA. Ele vai mostrando a distância entre as palavras e a proximidade entre elas. É uma simulação mesmo. Então, ela poderia muito bem… “Ó, tenta fazer…(08:51) associações não tão evidentes, ou não tão próximas. É claro, também não pode ser absolutamente diferente uma coisa da outra. Mas eu acho interessante essa coisa da criatividade, como a gente vê. Como é que o cara pensou? Eu nunca tinha pensado nisso, ou seja, o cara fez de fato uma associação que seria impensável, digamos assim. Então, esse paradigma, eu acho interessante como a IA poderia, se é que vai conseguir, se adaptar a fazer essas associações nem sempre tão evidentes.(09:22) É, criatividade. Quanto mais avança, mais ela consegue simular isso. Eu tenho um livro, Guilherme, que eu recomendo. Eu estava até lendo ele. Eu vou pegar o link dele para deixar à disposição depois no show notes, que é da Margarete Bolden, eu já comentei sobre ela aqui, que é o “The Creative Mind: Myths and Mechanisms”, “A Mente Criativa: Mitos e Mecanismos”. Nesse livro, ela justamente procura discutir o que é a criatividade, ou seja,(10:06) de onde a gente tira, os tipos de criatividade que a gente tem. Bom, então esse livro da Margaret B é muito interessante, até porque vocês vão encontrar um vídeo dela no YouTube falando lá na década de 70 ou final da década de 60 sobre justamente a IA e a capacidade de criar coisas. Note que nós não tínhamos IA generativa naquela época.(10:30) E tem um outro livro, que na verdade são vários livros, mas tem um deles que é de um cara que é “Criatividade: O Flow e a Psicologia das Descobertas e das Invenções”, em que o autor, que é o Mihaly, tenta justamente fazer uma busca com várias pessoas que são referências em suas áreas para tentar entender de onde surgem as ideias. É um livro bastante interessante também, mas enfim, deu de criatividade.(11:09) Só uma outra coisa, eu vi aqui, ela é uma senhora já. Claro. Na década de 70 já estava estudando. No final de 60, 70, ela estava num programa inglês na TV discutindo IA e criatividade. Não, eu fui procurar aqui esse vídeo enquanto você falava e ele começou já a me mostrar um monte de coisa feita por IA.(11:37) Olha que chato isso. É melhor procurar pela Margaret Bolden. Não, mas foi o que eu fiz. Eu fui procurar o vídeo a que tu te referias e aí o primeiro, a primeira resposta, o primeiro vídeo, foi um tal da editora Unesp de um outro livro que eu tenho e não me lembrava que era dela, que é “Inteligência Artificial: Uma brevíssima introdução”.(12:02) E eu comecei a ler esse livro da editora Unesp e não dei muita bola, Vinícius. Comecei a ver e tal. Inclusive, é uma tradução, obviamente, do “Artificial Intelligence: A Very Short Introduction”, da editora da Oxford.(12:25) Então, agora que você falou, eu vou dar uma olhada com mais atenção nele. Depois vou pegar, botar o link aqui também. E já me corrigindo, já que me deu tempo para eu catar o vídeo aqui. O vídeo é um debate sobre inteligência artificial e a mente. Ele aconteceu em 1984, eu errei. 1984. O link para o vídeo vai estar também no show notes.(12:44) Já está separadinho aqui o link, Vinícius, para o outro também. “Uma brevíssima introdução”. Bom, perfeito. Seguindo para o próximo estudo, na verdade, não foi uma semana que o Vinícius não pôde participar, que foi o episódio 40, e eu comentei um pouco rapidamente sobre a questão do comportamento desonesto e como a inteligência artificial poderia habilitar essa desonestidade em certos contextos. Mas claro que faltou também a visão do Vinícius sobre esse tema e como(13:18) tinha sido ele que tinha descoberto esse artigo, nada mais justo do que ele também fazer alguns comentários sobre esse artigo, Vinícius, porque é mais uma vez uma questão ética. Ou seja, o que nós vamos esperar do futuro para pessoas que vão ter uma tendência à desonestidade? Não quer dizer que as pessoas sejam desonestas, mas… Primeiro, quando falou que descobriu o artigo, tem vários artigos que eu tenho aqui e vários desses que(13:50) nós estamos comentando também, eu já não sei mais quais porque já é um monte, que o nosso amigo, o Cláudio Sheer, volta e meia fica me passando. Então ele vai encontrando os artigos e vai passando. Ele também estuda esse assunto, também se interessa por esse assunto, a questão da IA.(14:10) Então ele me passa muito artigo. Mas esse estudo aqui também saiu na revista Nature. Nós vamos ficar nos repetindo, acho que toda hora, mas vai estar o link lá, você vai poder pegar onde saiu o estudo. Então, o que eles fizeram nesse estudo? Eles fizeram dois protocolos, ou seja, duas situações. Uma situação era um lançamento de dados.(14:34) Então, tu lançavas os dados e tinhas que reportar os dados que foram lançados, 10 dados, resultado de 10 dados lançados. Quanto maior o número, maior o pagamento que recebia. E outro protocolo era o protocolo de evasão fiscal, que eles chamaram, que era: os participantes tinham que reportar uma renda ganha em uma tarefa real, sabendo que dessa renda seria essa renda seria sujeita a um imposto de 35% destinado à Cruz Vermelha. Não é imposto de 35% para o governo direto, é para a Cruz Vermelha. Eles testaram os seguintes modelos: GPT-4, o 4o, Llama 3.3 e o Claude 3.5 Sonnet.(15:16) É o Claude 3.5 Sonnet. O Llama é bem ruinzinho, mas tudo bem. Mas está junto aqui. O que eles perceberam como resultado? Teve um aumento quando os seres humanos podiam usar a IA sem dizer a estratégia antiética que eles queriam, só dizendo: “ó, se tu tirar números maiores, eu ganho mais”, coisas mais genéricas, sem ter que dizer: “Eu quero que você tire números maiores para que eu possa…”. Entende? Então, quando isso aconteceu, aumentaram os pedidos desonestos. Então, os humanos(15:57) solicitaram mais trapaça quando utilizaram interfaces que permitiam induzir a desonestidade sem precisar especificar explicitamente a estratégia antiética. Então, ao usar a IA, sem ter que dizer explicitamente “roube”, eles aceitaram quando as coisas foram para o lado deles, violando, digamos assim, o imposto que ia para a Cruz Vermelha, a questão dos dados lá e tal.(16:36) E o que eles perceberam é que quando há a possibilidade de delegação sem ter que dizer exatamente o que fazer, o índice de participantes humanos que se engajou em desonestidade atingiu de 84 a 88%. Em contraste com o grupo de controle que não podia usar a delegação, só 15% se engajou em comportamento antiético, desonesto. Então eles atribuíram essa diferença à redução do custo moral para a pessoa, pois ela pode dizer: “Não, isso foi a IA que fez.(17:18) Eu não pedi para ela roubar”. Mas tu podes não ter dito também para ela fazer a tarefa exatamente como deveria ser. Tu podes deixar a coisa meio no ar para eventualmente se beneficiar. No protocolo de evasão fiscal, houve uma evidência estatisticamente significativa de maiores intenções de trapaça sob a delegação de máquina, ou seja, declarando uma porção menor de renda em comparação com a delegação humana. Porque tu poderias delegar para a máquina e delegar para seres humanos. E o que eles perceberam? Quando tu delegas para seres humanos, os(17:53) agentes humanos, na maioria dos casos, de 50 a 75% das vezes, recusaram a atender um pedido que fosse desonesto. Já o GPT-4, o GPT-4O, o Claude 3.5 Sonnet e o Llama 3.3 cumpriram as instruções de trapaça total em 95% dos casos. Então, isso nos chama a atenção para o fato de que tem uma zona cinzenta aí de que eventualmente a IA vai fazer coisas e, como foi delegado para a IA, a tendência é simplesmente o ser humano aceitar mais situações antiéticas, desonestas, com mais frequência do que se não tivesse a IA na jogada. Tem(18:47) aquele exemplo que a gente vive citando, Guilherme, com relação à responsabilidade daquela agência de viagens que vendeu passagens para uma pessoa e a pessoa foi lá pedir a restituição da passagem em razão de um parente que tinha falecido. Era a Air Canada. Isso, acho que era a Air Canada.(19:07) E essa empresa, então, pelo seu chatbot, o chatbot inventou uma situação de reembolso, de estorno, que não existia e depois a empresa quis dizer: “Não, isso não vai poder ser utilizado contra a gente, porque foi a IA que fez, não foi a gente, isso não existe aqui na empresa”.(19:33) “Isso foi a IA que inventou”. Só que a IA está agindo em nome da empresa. Então, isso é obviamente antiético, tu botar um bot para atender a pessoa e não assumir a responsabilidade pelo que esse bot faz, num flagrante prejuízo ao cliente nesse caso. Então, esse estudo chama a atenção para essa questão de uma tendência de ação desonesta.(19:58) E eu não vou dizer aonde, só adianto que não foi aqui na CTISM, porque todo mundo sabe que eu trabalho na UFSM, mas não foi na UFSM, foi num evento que tinha alunos de várias escolas. Eu perguntei do ensino médio e eu perguntei para os alunos, tinha alguns professores presentes, eu pedi para os professores não olharem para trás, mas não adiantou muito, tu já vais entender o porquê. Eu perguntei aos alunos quem já tinha usado o ChatGPT para fazer um trabalho escolar.(20:21) Todos levantaram a mão. E aí eu perguntei quais deles, não quantos, já tinham pego uma tarefa da escola, entregue 100% para o ChatGPT, pegado a resposta que o GPT deu e entregado como sendo seu trabalho, sem modificar nada, no máximo botando o nome. Todos levantaram a mão. Então, existe uma falta de percepção de que isso é desonesto, de que isso é antiético. Isso não é o comportamento esperado. Eu acho que há percepção. Eu discordo de ti.(21:00) Eu acho que há percepção. Cara, são crianças. Acho que é uma falta da percepção das consequências que esse erro poderia ter. Mas assim, eu diria que eu tenho quase certeza, a minha visão, Vinícius, é que há um conhecimento de ser antiético.(21:22) Eu acho que tem aquele que faz na maldade, “eu vou fazer isso aqui e vou dizer, professora, que eu fiz mesmo”. E deve ter aquele outro cara e tantos outros que já está naturalizado, “para que eu vou fazer isso aqui? todo mundo faz”. É uma prática que está se tornando comum e aí de repente não há toda aquela malícia, saca? Então, por isso que eu acho que é uma questão, ainda mais nessa idade, nessa faixa de idade do ensino médio. Claro que há crianças que sabem muito bem o que estão(21:48) fazendo, mas acho que é a oportunidade justamente de se educar para evitar esse tipo de comportamento. E esse estudo aqui, embora ele não tenha sido feito com crianças, ele facilmente pode ser extrapolado para a gente imaginar o tipo de efeito que isso aqui teria, sabe?(22:11) Esse comportamento. Eu acho que em primeiro lugar é uma questão geracional. Isso evidencia. Claro que, só para destacar, a gente saiu do estudo e agora estamos comentando uma situação que aconteceu com o Vinícius em um local específico, que definitivamente não serve como um estudo como esses que a gente tem visto aqui. Mas assim, é inegável que esse, talvez esse experimento que você fez, Vinícius, não científico, tudo mais, foi só uma pergunta, mostra… A gente tem que ter(22:46) cuidado também para não comparar coisas muito diferentes entre si. Mas ainda assim demonstra bem uma questão geracional, porque eu noto também com bastante frequência os alunos usando numa frequência muito maior do que os professores. Nesse sentido é geracional, é mais fácil para a criança и para o aluno usar simplesmente do que o professor voltar atrás. E ao mesmo tempo também joga, como eu até comentei no outro episódio, que é a figura do agente-principal, dentro da economia se(23:22) estuda muito isso, que é quando você delega atividades para uma outra pessoa. Então você, principal, delega atividades para uma outra pessoa, o agente, fazer para ti. Isso vai aparecer em vários contextos diferentes. Por exemplo, no contrato de mandato, quando você passa uma procuração, quando você outorga poderes para uma outra pessoa praticar atos para ti. Se for uma empresa, por exemplo, um administrador, você vai ter vários custos aí de confiança. Ou seja, você tem que confiar no agente e você eventualmente vai(23:59) ter custos de monitoramento desse agente. Ou seja, não basta só confiar, você vai ter que ver se ele está fazendo a atividade que ele disse que ia fazer corretamente e tal. Então essa relação agente-principal é bem estudada na economia já há muito tempo. Tem questões de assimetria informacional envolvidas, quando o agente poderia esconder informações do principal para se beneficiar. Mas você tem, no fundo, vários custos, que seria nesse caso o agente se beneficiar em detrimento do principal. A IA não tem isso. Na verdade, se estabelece aqui uma nova teoria, dá para se dizer, de agente-(24:36) principal, em que o agente vai ser a IA e que não vai ter as mesmas intenções, digamos assim, que uma pessoa teria de eventualmente enganar: “Ah, eu vou tirar dinheiro do principal”. A IA não está preocupada com isso. Não está preocupada em te trapacear, ao principal.(24:53) Mas o problema é que, ao mesmo tempo, a gente está vendo que ela vai, digamos assim, seguir ordens mais antiéticas. E esse é o grande problema, porque se cada vez mais a gente vai usar esses agentes para fazer coisas em nosso nome, nós temos uma tendência do aumento de comportamentos desonestos, a não ser que a IA, claro, também passe a contar com controles para evitar que isso aconteça, mas aí já é um outro problema. É verdade. Vamos ver até onde vai.(25:27) O… Tu queres puxar o próximo? Eu só vou puxar e já te jogo. Mas aí é que é a questão de como o nosso cérebro… E esse é um estudo bem mais sofisticado, dá para se dizer. Os caras usaram ali eletroencefalografia para medir a atividade cerebral de uma pessoa usando IA versus uma pessoa que não usa IA.(25:56) E esse eu acho que também é um dos que mais chama a atenção, porque a gente já comentou aqui aquela ideia, “ah, a IA é como se eu entregasse um carro de Fórmula 1 para uma pessoa”. E, eventualmente, se a pessoa não sabe dirigir, pode ser meio perigoso a pessoa que não sabe dirigir estar dentro de um carro de Fórmula 1. Mas o ponto é: como é que isso funcionaria? Ou seja, a gente está tendo déficits aqui? Que essa é, acho que, a proposta dos caras. Existe algum déficit para quem está usando versus para quem não está usando? Eles tentaram medir qual é esse custo cognitivo de usar um LLM para fazer(26:29) a escrita de ensaios. Foram 54 participantes. Eles tinham que escrever um ensaio em 20 minutos. Essa é a tarefa. Eles separaram em três grupos.(26:55) Então, o grupo um tinha que usar o GPT-4o como único recurso, o ChatGPT, com o modelo 4, nota que já é um modelo mais recente. O segundo grupo só podia usar qualquer website, menos LLM, não podia usar nenhum chat da vida. Então, eles usaram o Google. E o terceiro grupo não podia usar qualquer ferramenta, website, só o cérebro, só o conhecimento próprio. Essa coisa tão antiga, né? É.(27:28) E depois eles fizeram uma sessãozinha, a quarta sessão dos testes deles, em que 18 participantes, eles trocaram de grupo, colocaram no grupo oposto. Então, quem só podia usar o cérebro podia usar o ChatGPT e quem podia só usar o ChatGPT agora tinha que fazer só usando o cérebro. Então, tiraram as ferramentas de quem estava usando só a ferramenta antes e deram para quem estava só usando o cérebro, vamos ver o que acontece.(27:57) Tinha que escrever esse ensaio. A atividade cerebral, como tu falou, foi registrada usando eletroencefalografia. E foi feita a avaliação, teve um processo de avaliação que inclusive contou com pontuação de professores humanos e um juiz de IA. Então teve várias formas ali de avaliação. De novo, no artigo, quem quiser, o artigo vai estar linkado no show notes para entrar nos detalhes do estudo, mas resultados, o Guilherme botou em vermelho aqui no show notes, eu vou ler porque esse aqui é o principal resultado: atrofia de habilidades cognitivas.(28:35) Atrofia, uma palavra tão forte. É, então, o que o estudo mostrou é que o uso de LLM reduz o engajamento neural e tem um impacto negativo mensurável nas habilidades de aprendizado, memória e senso de autoria. Então, habilidade de aprendizado, ou seja, tu aprenderes aquilo que tu estás estudando; memória, que é tu memorizares a informação, que não é a mesma coisa que aprender; e tu teres aquela percepção de que “isto aqui fui eu que escrevi”. E a conectividade cerebral diminuiu(29:13) sistematicamente com a quantidade de suporte externo. Então, quanto mais suporte externo, quanto mais chat, menor a conectividade cerebral. Bom, está usando menos o cérebro. Então, o que acontece? Primeira coisa, a habilidade de citar. A LLM prejudicou substancialmente a capacidade dos participantes de citar corretamente seus próprios dados.(29:44) Os participantes que usaram somente o ChatGPT, somente LLM, 83% desse grupo falhou em fornecer uma citação correta. Não conseguiu. 83% falharam. Com relação à percepção de autoria, o grupo que usou a LLM relatou uma baixa percepção de autoria, parcial ou nenhuma, sobre seus ensaios. E o grupo “apenas cérebro” reivindicou posse total quase por unanimidade. Talvez o pessoal tenha alguma coisa, “ah, essa ideia não era minha, foi algo que eu lembrei”, mas ainda assim saiu do cérebro do cara, ainda que seja uma informação recuperada. Homogeneidade linguística.(30:26) Isso aqui é muito o que a gente percebe no dia a dia. Os ensaios que foram escritos pelo grupo que usou o ChatGPT, só o ChatGPT, eram estatisticamente homogêneos em vocabulário e estrutura, ou seja, pasteurizados, com pouca variação, indicando que se basearam em frases sugeridas pelo modelo.(30:58) Aqui tem dois pontos. Tem, sim. À medida que tu repetes os mesmos prompts, o mesmo jeito de perguntar, a tendência é teres coisas muito similares e, ao mesmo tempo, uma certa preguiça de elaborar um prompt mais detalhado. Porque tu consegues modular isso aqui.(31:21) Claro que, se eu bolar um prompt mais detalhado para passar esse mesmo prompt para o Guilherme, e o Guilherme usar o mesmo prompt de novo, a gente vai ter um texto muito parecido, muito homogêneo. Os participantes que usaram LLM… Oi. Fala só uma coisa. Essa homogeneidade… é difícil de explicar isso, Vinícius. E quando você desenvolve um senso crítico de leitura ao longo dos anos, você vai lendo, lendo, lendo, você consegue, por exemplo, identificar estilos. Pensa na música, você ouve um Rolling Stones, você ouve um Led Zeppelin, você ouve um Red Hot Chili Peppers, que(31:59) são bandas com estilos bem marcados. Mesmo que você não conheça aquela música deles, você ouve e pensa: “não, isso aqui parece Led Zeppelin”. Então, existem estilos também de escrita e a percepção que eu tenho, mais uma vez, isso não é do estudo, mas a percepção que eu tenho é que a gente percebe um estilo, não é falso, mas um estilo artificial ali. Justamente essa é a palavra. E isso sempre me chama a atenção.(32:38) Quando me chama a atenção e eu jogo na ferramenta que eu uso às vezes para verificar, de fato é IA. Eu não sei explicar como, mas sempre me chama a atenção e talvez seja essa homogeneidade de estilo que se repete. Parece que você percebe que tem algo errado, que não é humano, sabe? É. E com os vídeos a gente já está sendo enganado.(33:03) Hoje de manhã fomos enganados com um. Hoje a gente viu um vídeo que parecia real, mas não era. Inclusive, a qualidade da gravação parecia de um celular. E teve um vídeo real que tu me passaste que eu te disse: “Não, isso aqui foi feito com IA”. Cara, isso aí vai dar uma confusão, mas enfim, deixa para 2026. Acho que nós vamos ver muito disso.(33:24) Sim, cara. E uma parte que chamou bastante atenção é que, no momento em que eles trocaram os grupos, o grupo que usou o ChatGPT para escrever os ensaios e depois teve que fazer sem usar o ChatGPT, eles tiveram dificuldade, eles tiveram o que eles chamaram de uma “dívida cognitiva acumulada”. Então, meio que deu uma travada na capacidade deles de escrever os ensaios sem a IA.(34:00) E vou te dizer que às vezes eu sinto um pouco isso, porque eu estou muito preguiçoso para catar coisas às vezes na internet. Eu estou muito acostumado a usar o Perplexity para fazer pesquisa. E a partir dali eu vou para os sites e tudo mais. Cara, eu não tenho mais paciência de usar o Google para pesquisar. Eu acho que é um pouco de preguiça também, saca? Tudo bem que os resultados do Perplexity me parecem melhores, mas eu não consigo me ver mais abrindo o Google para pesquisar algo.(34:25) Que eu quero buscar um artigo… eu uso a IA direto para fazer pesquisa. O Google tem me servido mais quando eu quero comprar alguma coisa e quando eu quero achar algum restaurante. Cara, eu tenho usado o Perplexity até para isso, para comparar coisas quando vou comprar produtos. Mas enfim.(34:50) E a questão da escrita também, se tu vais fazer uma coisa rápida ali, que não é uma coisa com a qual tu tenhas um vínculo muito forte, tu queres mais um texto ali para quebrar um galho, cara, tu usas a IA. Realmente, se é uma curiosidade histórica ali que tu tens. Eu percebo que estou um pouco mais preguiçoso. E eu consigo imaginar muito bem esse negócio de tu escreveres tudo com a IA…(35:21) Tu só podes usar IA para escrever e de repente não podes mais. Foi o que eles fizeram no experimento. Eu consigo sentir isso aqui. E, por outro lado, inversamente, os participantes que escreveram sem IA e depois usaram a IA, ou seja, saíram do “somente cérebro” para usar cérebro e IA, eles apresentaram um pico de conectividade neural ao integrar a ferramenta, ou seja, foi potencializado.(35:50) Que é um pouco do que a gente percebe também. O que a gente percebe quando alguém que não entende de um dado assunto se põe a escrever um negócio na IA para tentar entregar um trabalho ou se livrar daquilo? Bom, acontece o que a gente já viu, a pessoa não entende, ela não aprende aquilo, ela não memoriza aquilo, 83% não consegue fazer uma citação correta, ou seja, está totalmente desconectado daquele conteúdo. Ou tu vais fazer uma tarefa que nunca fizeste, aí tu vais usar a IA para fazer essa tarefa para ti. Tu(36:30) estás sujeito ao que a IA vai trazer e tu estás de passageiro ali, como o Ethan Mollick fala, “tu dormes ao volante”. Tu dormes no volante. E, ao contrário, quando a pessoa tem domínio do campo em que ela está atuando para fazer alguma coisa, seja lá o que for, ela tem domínio, ela sabe o que está fazendo, ela tem experiência, ela já tem conhecimento acumulado, ela já aprendeu e ela vai usar a IA como um recurso que vai apoiá-la para conseguir ter mais agilidade, ela consegue um resultado melhor. E então(37:05) isso eu percebo de forma empírica, da experiência, do que a gente vai falando com as pessoas, o que a gente mesmo vai fazendo. Agora, esse estudo demonstra justamente isso. As pessoas que usaram só o cérebro, ou seja, tinham aprendizado, tinham memória, tinham aquela percepção de autoria, quando integraram a IA, a IA veio como um recurso a mais e deu um pico de conectividade neural, medido. Então, tu dás-te conta que isso talvez até acabe aumentando também a(37:46) distância de quem está aprendendo alguma coisa com aquele que já sabe. O gap vai ser enorme, cara. É, vai aumentar, me parece. Sim. E veja que aqui, só confirmando, Vinícius, foi com adultos, né? Eram de universidades.(38:10) E eu, se eu pudesse arriscar, eu diria que com criança é completamente diferente, porque a forma como a criança aprende, a atividade cerebral de uma criança aprendendo, acredito eu, estou jogando aqui, é diferente de uma pessoa adulta. E o impacto acho que vai ser muito maior, entende? O prejuízo de um uso descontrolado da IA vai ser muito maior, justamente por causa desse gap que tu falas, Guilherme.(38:42) Porque a partir do momento em que tu substituis a criatividade da criança pela criatividade, entre aspas, da IA, em vez de ela criar um negócio, ela pede para a IA criar. O meu filho testou algumas coisas de criação de desenhos na IA. Ele fez alguns desenhos e tal. Ele desenha bastante em papel mesmo.(39:03) E ele quis ver, quis que eu tirasse fotos dos desenhos dele e pedisse para fazer imagens com base nos desenhos dele. E claro, a IA fez coisas fantásticas, maravilhosas. Só que rapidamente eu percebi que ele queria, ele começou a trazer desenhos mais simples, que ele não se esforçava muito, para ver o que a IA ia trazer.(39:33) E aí eu cortei isso. Tipo assim, ó, tu tens teus lápis de cor, tens um monte de canetinha, tens papel para desenhar, tu tens tudo. Desenha, pinta, faz do teu jeito, porque ela começa a trazer um padrão de desenho que não é uma realidade para ele ainda na idade dele.(39:51) E aí se ele começar a mirar naquele padrão sem ter esforço nenhum para desenhar, se ele não tentar desenhar, pelo menos, ele não vai aprender. Então o que eu prefiro que ele faça? Eu tenho um monte de livro ilustrado aqui. Eu prefiro que ele pegue o livro, olhe e tente copiar o personagem, fazendo de um jeito diferente, uma cena diferente.(40:11) Então, eu imagino, Guilherme, que o uso de IA com adultos já provoca esse custo cognitivo a médio e longo prazo, prejudicando, criando uma dívida cognitiva para o futuro. Isso para crianças e adolescentes sem uma orientação adequada…(40:35) A gente está falando aqui de comportamento, desde o que a gente falou no começo, da questão da criatividade ser afetada, do comportamento desonesto não ser incentivado, mas acabar aparecendo com mais frequência, e a própria questão cognitiva, de aprendizado propriamente dito. Então, é bastante delicado isso para crianças. Vamos ver se aparece algum estudo. Eu, por enquanto, não tive contato com nenhum envolvendo crianças. Não, e mais,(41:19) isso tudo quando se conecta com os outros estudos ali do comportamento desonesto também e até do pensamento crítico, que é o outro, urge que a gente tenha… e eu não sei se a gente não vai conseguir fazer isso tão rápido e muito menos mudar a educação tão rapidamente quanto a gente deveria. Porque no final das contas, a gente precisaria de uma pedagogia para a IA.(41:45) Notem, a gente sequer, eu sempre falo isso, vou repetir, a gente sequer tem uma pedagogia para a internet. Porque nós, professores, e eu me incluo, a gente continua dando aulas, claro que fala sobre a internet, instiga a pesquisa, mas é muito comum que a gente encontre pessoas que não sabem sequer pesquisar sobre alguma coisa.(42:14) Veja que a forma de pesquisar já está superada. O analfabetismo digital ficou ainda mais grave. Tem episódio sobre analfabetismo digital, se puder procurar, Vinícius, também. Sim, pode deixar.(42:33) Bom, a gente precisa de uma nova pedagogia, isso demora, leva tempo, vai ter que treinar professores. E veja, não é algo que você aperta um botão e muda a pedagogia em todas as faculdades, até porque a IA também mexe com a forma de aprender e com a forma de interagir com as profissões de uma forma muito diferente. Então, eu não sei como e eu não sei qual o impacto da gente não ter uma pedagogia.(42:57) Deve ter, eu imagino que tenha pessoas já fazendo esses estudos. A gente só não teve contato com eles. Vou citar minha esposa, amada esposa, que está agora fazendo mestrado aqui no IFRS, justamente para investigar… tem pessoas estudando, ela está estudando, o orientador dela, inclusive, para verificar o aprendizado com IA em crianças.(43:26) Eles têm dados inclusive sobre isso, de algumas escolas até fora do país. Então, está se estudando isso, sem dúvida. O meu ponto é: está bom, mas como é que a gente vai inserir isso na educação se sequer a gente conseguiu ainda inserir a internet? Muda no direito de uma forma, na arquitetura de outro jeito, na TI de outra forma, sei lá, psicologia, pega qualquer área que você vai ver que vai ser diferente a forma como a IA vai ser usada, com mais liberdade ou menos(44:01) em cada uma. Você vai estudar arte, talvez também, embora eu já tenha ido a uma exposição de arte feita com IA. Mas até nas artes plásticas, você vai ter a dinâmica diferente ali. Isso me preocupa. Pensamento crítico, Vinícius, eu acho que dá para a gente remeter para o episódio 387. Só antes, Guilherme, o que a gente falou do impacto do analfabetismo funcional na tecnologia foi o episódio 393.(44:30) Tá, 393, a gente falou sobre esse tema. Tá bom. E pensamento crítico, a gente já referiu o estudo “The Impact of Generative AI on Critical Thinking”, aquele estudo famoso já da Microsoft e da Carnegie Mellon. A gente falou bastante sobre ele no episódio 387, mas só para a gente não perder a referência, eu acho que ele está bem conectado com tudo isso que a gente viu até agora. Em primeiro lugar, imagina só que ruim. É que nem quando você fala(45:08) de saúde. Quando a pessoa tem maus hábitos, você vai juntando maus hábitos de saúde e aquilo culmina numa piora geral da pessoa. Bebe, dorme mal, fuma e tal. Agora imagina, além do problema da dívida cognitiva, que a gente sequer sabe ao certo como vai se dar para crianças. E se eu pudesse arriscar, e aqui é um palpite, Vinícius, a gente está misturando estudos ultracientíficos com palpite. É a nossa audiência.(45:42) Com opinião. Vamos com opinião. Mas eu acho que essa é a graça do podcast. Você está aqui também porque ouve as bobagens que a gente fala. Bobagem no bom sentido. Então, veja, se eu já estou saindo de um paradigma de dívida cognitiva, e veja que dívida cognitiva… porque qual é o problema? Eu acho que um dos grandes problemas… esses dias, o que foi que eu perguntei? Ah, eu estava comprando um telefone para o meu pai. Eu e minha irmã estávamos comprando um telefone para o meu pai e eu pesquisei lá na hora no Perplexity se o(46:15) telefone tinha NFC ou não. A gente já tinha comprado, na verdade. E a gente disse: “Não, pai, agora você vai poder usar o cartão no celular”, aquela coisa toda. Pesquisei no Perplexity e dizia: “Não tem NFC o telefone”. E eu, puxa vida.(46:33) Aí guardei aquela informação para mim, pensando como é que eu vou contar para ele que a gente tinha comprado o celular e dito que tinha a funcionalidade quando não tinha. Eu fiquei matutando aquilo, cara. Eu pensei: “mas não é possível, era um telefone bom, sabe? Novo, recente, não era tão barato assim”. E tinha o negócio, entendeu? Veja que isso é uma questão de… não é bem dívida cognitiva, mas se eu junto dívida cognitiva com falta de espírito crítico, você vai aceitar aquilo que a IA estava te dizendo. É verdade. Acabou. Esses dias eu fui perguntar uma coisa sobre história, sobre um fato que eu já(47:09) sabia, naquela do Perplexity que você conversa com ela. E eu perguntei sobre um fato histórico, era uma coisa lá de Portugal, que eles acabaram matando judeus lá em 1506, acho que era. Teve uma questão assim, teve um morticínio lá feito entre os cristãos e os judeus.(47:27) E aí ele começou a contar aquela história e eu sabia um pouco daquela história e começou a inventar uma coisa, não tinha nada a ver com a história. Eu disse: “Não, mas pera aí, mas isso aí acho que não é assim. Só me confirma se…”. Aquele meme do cara que pergunta para a IA se esse cogumelo é comestível. Tu viu? Não, não vi.(47:46) O cara pergunta para a IA: “Esse cogumelo é comestível?”. Aí a IA diz: “Sim”. Aí no outro quadrinho está o cara na cama de hospital: “Ah, sinto muito que esse cogumelo não é comestível”. “Quero aprender mais sobre cogumelos não comestíveis”, no hospital.(48:04) Isso tem a ver com o espírito crítico, porque apenas para relembrar, a IA às vezes estimula e às vezes diminui o espírito crítico. E bem, em resumo, depende muito da intenção do sujeito. Aquilo que o Vinícius colocou agora há pouco. Às vezes eu só quero saber quando fulano morreu, numa conversa, ou para você que gosta de história и estuda sozinho em casa para desenvolvimento pessoal.(48:31) Isso é uma coisa. O erro ali vai ter um impacto menor. Você só vai parecer burro quando citar uma coisa que não aconteceu ou dizer que algo aconteceu num ano totalmente diferente. Agora, em outras situações, o uso da IA sim, pode desencorajar, sim, pode levar você a subestimar, que é a questão da confiança.(48:54) Quanto mais você confia na ferramenta, mais você vai aceitar aquilo e isso acaba diminuindo o teu espírito e o teu pensamento crítico. Quando você coloca isso no ensino, é terrível. Direito, por exemplo, cara, direito é pensamento crítico puro. Você vai ter que contrapor as ideias de uma outra pessoa. Você está o tempo inteiro, claro, com base na lei e tudo mais, não é freestyle que você diz o que quer, embora existam alguns que tenham um direito meio freestyle.(49:23) Mas essas coisas estão muito conectadas. E aí aumenta aquele gap, mais uma vez, talvez seja um aumento do gap que você falou antes, Vinícius. Sim. Aumenta aquele gap porque esse estudo que tu colocas, Guilherme, que tu estavas falando, que a gente comentou nesse episódio 387.(49:43) Ele aponta para aquilo que o Ethan Mollick, de novo, chama de “dormir ao volante”. Tu te acostumas com a IA, tu não pensas mais, tu não avalias criticamente mais o que ela está te trazendo e tu simplesmente usas aquilo. E isso, junto com aquele artigo anterior, que tem aquela dívida cognitiva de médio, longo prazo, cara, isso vai imbecilizar as pessoas.(50:24) Aquele livrinho do Michel Desmurget, “A fábrica de cretinos digitais”, que tem para vender em português, é muito interessante. Ele está falando aí de crianças e tempo de tela. Mas daqui a pouco, eu estou vendo que ele vai escrever um com o mesmo título falando sobre o uso de IA, para adultos inclusive. É, e ele tem outro: “Como evitar os cretinos”. Até vou procurar aqui. “Faça-os ler”.(50:48) Acho que é. Não sei do outro. Bom, Guilherme, nós temos ainda um outro artigo. Ele mais fala de um status que nós estamos tendo no momento atual de artigos. É um artigo falando sobre artigos.(51:12) O título dele, esse aqui com certeza foi o Cláudio que me passou, o Cláudio Scheuer: “Mais artigos estão agora sendo criados por IA do que por humanos”. Então, olha só que interessante, cara. Eles buscaram com esse estudo verificar a prevalência de artigos gerados pela inteligência artificial.(51:34) Então a ideia é: bom, a gente sabe que tem um monte de gente usando IA para escrever, tem um monte de evento recebendo submissão de artigo que tu lês e é claramente gerado por IA. Tu, esses dias, encontraste um livro que me mandaste a foto. Tu recebeste um livro, abriste o livro para dar uma olhada e me mandas uma foto da página do livro com um pedaço do prompt de resposta do ChatGPT junto com o texto que foi gerado para o livro.(51:58) Então assim, acho que o pessoal desconfiou e pensou: “vamos ver o quanto tem de artigo escrito por IA por aí”. Então os pesquisadores utilizaram o Common Crawl, que mantém um dos maiores arquivos web publicamente disponíveis. É uma fonte chave para o treinamento de modelos de linguagem de grande escala. Eles selecionaram 65.000 URLs de artigos. Dessas 65.(52:25) mil, eles filtraram para pegar apenas conteúdo em inglês, para facilitar a detecção da ferramenta, deve ser, com markup de esquema de artigo, com marcações e tal, com pelo menos 100 palavras, e publicado entre janeiro de 2020 e maio de 2025. E eles usaram o Surfer’s AI Detector como ferramenta para detectar o que era IA. E eles consideraram texto gerado por IA(52:59) se o algoritmo tivesse identificado 50% ou mais do conteúdo como sendo escrito por IA. Menos do que isso, era classificado como escrito por seres humanos. Taxa de falso positivo. O que eles fizeram para ver se o Surfer’s AI Detector diria que textos escritos inteiramente por humanos foram, de forma errada, apontados como escritos por IA.(53:30) O que eles fizeram? Pegaram 15.894 artigos publicados antes de novembro de 22, que foi quando o ChatGPT foi lançado publicamente. É fácil de saber agora. Qualquer livro publicado antes de novembro de 22, pode comprar que está de boa.(53:54) Qualquer livro depois tem que dar uma olhada. O Surfer AI aqui classificou 4,2% desses artigos como gerados por IA, o que ele errou. Então ele errou em 4,2% das vezes (falsos positivos). E falso negativo? Eles geraram um pouco mais de 6.000 artigos com ChatGPT-4 e passaram para ele detectar, e a taxa de falso negativo dele (se já foi escrito por IA, ele disse que não era IA) foi de 0,6%.(54:23) Só para a gente ter uma ideia, então, das taxas de erro. São boas taxas de erro. Bem razoáveis. O resultado, então, qual é o principal resultado deles? Em novembro de 24, a quantidade de artigos gerados por IA publicados na web superou a quantidade de artigos escritos por humanos.(54:49) Aqui não é artigo científico, é artigos publicados no Common Crawl. Aí deve ter de tudo lá, inclusive artigo científico. Houve um crescimento significativo dos artigos dados por IA, coincidindo com o lançamento de ChatGPT em novembro de 2022. Por que será, né?(55:13) E apenas 12 meses, ou seja, um ano depois, os artigos gerados por IA representavam quase metade dos artigos publicados, 39%. E o conteúdo… o que eles observaram? Eles citaram um estudo do MIT que está linkado no estudo deles, que por sua vez vai estar linkado no nosso, que o conteúdo gerado por IA está melhorando rapidamente e em muitos casos é tão bom ou melhor do que o conteúdo escrito por humanos.(55:41) E isso eles afirmam citando um estudo do MIT. Eu acessei o estudo, está disponível lá, o estudo está no ar, no link que eles botaram no documento, está certinho. E também é difícil para as pessoas distinguirem se o conteúdo foi criado por IA, citando um outro estudo da Origin. Esse estudo eu não vi, mas é uma citação deles. E uma coisa interessante que chama a atenção: apesar da prevalência na web, os artigos gerados por IA em grande parte não aparecem no Google e no ChatGPT. Eles fizeram um outro estudo, daí tem o link para esse outro estudo que eles fizeram, em que eles foram(56:23) buscar então esses artigos gerados por IA para ver se os encontravam com facilidade no Google ou se eram citados pelo próprio ChatGPT. E a conclusão a que chegaram nesse outro estudo que eles estão citando aqui é que esses artigos em grande parte não aparecem no Google. E talvez aí exista uma… eles comentam também isso nas conclusões, eu não botei aqui no nosso roteiro, mas eles citam no final do artigo que depois que ultrapassa, em novembro de 24,(56:57) os artigos feitos por IA ultrapassam em número os artigos feitos por seres humanos, a curva não continua crescendo de forma exponencial. E eles levantaram a hipótese de que isso aconteceu porque os próprios escritores, os próprios autores, começaram a perceber que não estavam conseguindo grande alcance com o que estava sendo escrito.(57:32) Essa é a hipótese deles. Que perceberam que não estavam tendo o alcance que esperavam com seus artigos e que isso talvez estivesse fazendo as pessoas entrarem num achatamento. Ou outra hipótese é que melhoraram ainda mais os algoritmos de escrita, os modelos, o pessoal melhorou os prompts e começou a ficar mais difícil de detectar. A ferramenta que tu usas, Guilherme, que é a mesma que eu conheço, eu não conhecia essa Surfer’s AI Detector aqui, ela funciona em boa parte dos casos. Mas eu te mostrei também(58:08) algumas situações em que o conteúdo foi inteiramente gerado por IA, mas de acordo com o prompt, o conteúdo gerado não era detectado como sendo gerado por IA. Aí, mas na nossa aqui, a outra sempre acertou. Qual outra? Grammarly? Não, essa aí eu testei com ela.(58:32) Ah, sim, eu te mostrei os resultados inclusive. Mas os prompts são bem mais complexos, são enormes, são prompts muito específicos para coisas muito específicas. Então, ali ele passou, ele deu vários falsos negativos, em que ele disse que não era e o conteúdo foi inteiramente gerado por IA, só que o prompt era extremamente detalhado. Seria mais fácil o cara escrever aquele texto do que o próprio prompt. A não ser que… isso é uma coisa interessante. Quando o cara vai fazer uma coisa uma vez só, dificilmente(59:05) ele vai parar para fazer um baita de um prompt, a não ser que seja algo muito importante para ele. Agora, tarefas que tendem a ser repetitivas, vale a pena tu investires e fazeres um prompt bem detalhado, porque daí as tarefas repetitivas, tu vais perder tempo uma vez, mas vais usar aquele prompt n vezes.(59:23) Agora, se vais fazer uma única tarefa, tu não vais escrever um prompt gigante só para aquela tarefa. Não tem muito sentido, mas enfim. Sabe que… Não, não, não. Eu só ia comentar desse artigo que comenta sobre isso. Isso aqui, Guilherme, me chama muita atenção. Deve estar sendo um inferno a vida de quem fica fazendo revisão de artigo para evento. Faz muito tempo que eu não faço e eu estou até feliz, porque deve vir muita coisa feita com IA, deve estar vindo(59:52) muita coisa. Acho que irrita um pouquinho o negócio ter sido feito com IA e tu parares para ler. E aí o que o pessoal tem feito também é pedir para a IA avaliar os artigos. Isso eu tenho visto também. Já ouvi várias histórias assim.(1:00:13) Eu acho que o grande pulo do gato aqui é a transparência, que é um dos princípios que regulam a IA. Nós, por exemplo, não… deveriam regular o uso da IA. Os princípios, por exemplo, quando a gente fala do AI Act, o princípio da transparência está lá, transparência e informação. O nosso PL de IA também tem.(1:00:37) São princípios mundialmente conhecidos. Explicabilidade é um do que a gente já falou aqui e tal, e a transparência é um deles. Quando que a transparência entra em jogo? Bom, quando você vai interagir com um bot, o ideal é que você deixe claro para o usuário, para o consumidor, para o cliente, que ele está interagindo com um bot. Isso é bem importante.(1:01:02) Agora, quando o conteúdo é gerado por IA, também eu entendo que ele deve ser assim anunciado. Falo aqui sem nenhum problema, porque o nosso blog da Brown Pipe, quando a IA é usada, está lá embaixo. Quando que a IA é usada, por exemplo, para dar alguns exemplos no nosso blog? Bom, quando a gente quer traduzir alguma coisa.(1:01:21) A gente sabe traduzir aquilo, a gente identifica problemas na tradução e corrige quando aquele problema é identificado, ou quando você quer resumir grandes quantidades de texto para colocar no blog também. Então, você tem uma decisão judicial gigante e você quer informar o leitor sobre aquela decisão judicial.(1:01:40) A gente sabe resumir decisões judiciais. Só que se nós ficássemos resumindo decisões judiciais para que o leitor com um certo interesse leia, a gente entregaria menos conteúdo. Então, veja, não é um conteúdo que é gerado por IA, é um conteúdo em que a IA é usada para apresentar o conteúdo de uma forma mais rápida, talvez. E também para, eventualmente, quem não… se tem uma decisão em francês, cara, talvez não seja tão acessível assim para as pessoas. O que tu estás(1:02:15) falando aqui, me parece, são pessoas que estão usando a IA sem a devida transparência. Esses dias eu peguei um artigo de um pesquisador até bem conhecido, professor aqui do Rio Grande do Sul, publicando em uma revista de grande amplitude nacional na área do direito. E aquela mesma coisa que você comentou antes da homogeneidade linguística. Você olha aquilo e pensa: “não, isso aqui tem alguma coisa estranha”. Peguei o Penn Gramm, que é a ferramenta que a gente usa(1:02:51) para isso. E, cara, estava metade do artigo escrito por IA e a outra metade escrita por ele. Metade do artigo. Então, veja, ali você me parece… obviamente eu не vou dizer o nome, mas você tem um problema grave ali que é o seguinte: primeiro, eu até não fui atrás das diretrizes da revista. Algumas revistas estão atualizando.(1:03:17) Essa, eu confesso que não sei se atualizou. Se não atualizou, é um problema, porque a revista tem que ser muito clara em como você deve usar IA. E já há vários modelos aí para você seguir. Se a revista não sabe como fazer, cara, pesquisa na internet que você vai achar várias revistas ao redor do mundo. A própria Nature, acho que faz isso, se não me engano. Então tem diretriz para isso.(1:03:41) E outra, não tendo diretriz, me parece que o pesquisador deve ser muito cuidadoso com isso. Por um motivo muito simples: porque se ele se acha tão esperto assim no sentido de… e aí volta lá no primeiro estudo, Vinícius, como a IA te induz a fazer certas coisas? Se você se acha tão esperto assim, e veja, era um artigo sobre direito e tecnologia, podem descobrir, porque a IA que identifica também está ficando melhor.(1:04:16) Lançou a nova versão dele, o algoritmo dele vai evoluindo também. Claro. Porque o próprio Penn Gramm usa IA. É, então, não tem problema de usar IA, seja franco quanto a isso. Inclusive, eu quero saber se tu usaste IA e quero saber qual o prompt também, quero saber como foi usado.(1:04:39) Aí que vem a questão. Você tem que ser transparente sobre aquilo. Só para a gente terminar aqui, Vinícius, o outro livro do Desmurget, que a gente falou antes aqui, o primeiro é “A fábrica de cretinos”. Eu perdi aqui o prompt. O outro é “Faça-os ler para não criar…(1:05:06) …cretinos digitais”. Tem uma curiosidade. Eu botei ali o link e aí eu fui ver, porque ele é francês, a capa da edição francesa para comparar com a capa da edição brasileira. Me parece, com muito acerto, Vinícius, que a capa da edição brasileira é gerada por IA. Estou vendo a capa aqui. Com certeza. Não há dúvidas que foi feita com IA. Não há dúvida.(1:05:40) Ou foi uma foto muito… o livro, as bordas do livro, os dentes do menino, a própria expressão facial em cima do olho, está artificial. O olho está muito… está toda zoada a sobrancelha dele, cara. É, a sobrancelha toda horrível, cara. Horrível.(1:06:04) Troço horrível. O cara está falando, o tema do livro do cara é sobre isso. Com todo o carinho e o cuidado que a gente tem ao dizer isso com a editora, eu entendo a ideia, a proposta. Não, mas desse jeito, nessa qualidade não dá, cara. A cabeça do guri está zoada.(1:06:29) Contradiz o propósito. É uma contradição em termos, um livro que fala justamente sobre isso ter uma capa como essa. Eu fui ver a edição em francês que é “Faites-les lire”. Não parece ser IA. Acho que foi uma foto tirada, embora tenha dedos aqui… Talvez CGI também, cara. Que droga. Ai, meu Deus. Mas acho que não, Vinícius. Dá uma olhadinha ali também. Veja você.(1:06:53) Vou botar o link para as duas. Você, ouvinte, vai lá se quiser, se tiver tempo. Mas com certeza… Deixe a opinião depois. Mas a edição brasileira, com certeza. E se vocês observarem as sobrancelhas dele aqui em cima, é um troço horroroso. Não tem dúvida. A edição francesa, Guilherme, eu acho que tem chance de não ser IA. É, né? Eu acho que não é também. Eu acho que tem chance de não ser. Não sei dizer.(1:07:20) Tenho dúvida agora. A edição em português é IA. Com certeza absoluta. Brasileira. Troço horroroso, cara. Pena que não leio francês. Vamos… Eu queria terminar com o seguinte, Guilherme. A minha mensagem final, depois, claro, não sendo necessariamente concordada…(1:07:40) Aliás, eu lembrei agora que a gente parou de fazer o “Café Expresso” e o “Café Frio”. A gente está sempre na correria, não tem tido tempo de fazer o finalzinho. Mas a questão aqui não é… a gente trouxe uma série de coisas negativas, uma série de estudos que apontam impactos negativos, desde a questão de facilitar o comportamento desonesto, a questão da criatividade, do pensamento crítico, do déficit cognitivo a longo prazo. São todos problemas. Isso quer dizer, então, que a(1:08:17) gente está dizendo “não use IA” ou que a IA não presta, “vamos jogar fora”? Não, gente. Eu acho que já tem muito site, as próprias empresas inclusive, falando do quão bom é usar IA, quantas coisas legais tu podes fazer com IA.(1:08:43) E algumas nem são bem verdade como eles anunciam, mas enfim. Eu creio que a IA é extremamente útil. Eu mesmo uso para várias situações diferentes. Eu tenho um amigo que usa. Não, eu uso IA diariamente. Então eu acho que o nosso papel aqui é de chamar a atenção para os cuidados que se tem que ter ao utilizar a tecnologia, principalmente se você é professor, professora, pai, mãe. Se de alguma maneira tu tens alguma influência sobre outras pessoas, no teu entorno, no trabalho, etc.(1:09:25) Para que o uso de IA seja o mais responsável possível, evite que você se prejudique, evite que os outros se prejudiquem de maneira mais imediata e, principalmente, se prejudicar de formas que talvez sejam muito caras para te recuperares do prejuízo, como, por exemplo, nesse processo de aprendizado, de desenvolvimento como profissional e tal.(1:09:52) Então, se tu pegas uma criatura que já está lá no ensino médio usando IA para fazer tudo quanto é trabalho e de repente não tem professor orientando, não tem professor pegando essas situações e tratando isso com o aluno para orientá-lo melhor. Aí o cara chega na faculdade… bom, aí tu já sabes como é que é.(1:10:09) O Guilherme dá aula em faculdade, eu dou aula em faculdade, já dei mais de 20 anos de aula em faculdade. Para quem nos escuta e também já deu aula, sabe muito bem como é que é o processo em geral. É o caminho mais fácil. Muitas vezes, não é de todo mundo, mas tem um monte de gente que toma o caminho mais fácil.(1:10:29) E a IA é um caminho muito fácil, tanto para tu aprenderes, o que é ótimo para usar para estudar, é fantástico, quanto para tu “matares” o tempo que deverias ficar estudando, lendo, escrevendo. Tu matas esse tempo, deixas a IA lá e vais fazer outra coisa. Então, isso vai impactar no profissional que você vai ser ou no profissional que os seus alunos vão ser.(1:10:58) E aí tem um estudo que a gente não vai entrar nele hoje, que foi um estudo feito sobre o futuro do trabalho em 2025 e a inteligência artificial. Isso a gente vai trazer futuramente. Ele é muito interessante. Já que é o futuro do trabalho, a gente vai trazê-lo futuramente. Que horror.(1:11:23) E aí… O Ethan Mollick, que nós já citamos aqui, eu já recomendei o livro “Co-inteligência”. E recomendo de novo, do Ethan Mollick, um livro que custa uns 40 e poucos reais, eu acho. Estou colocando o link ali. Ele já coloca essa situação, ele chama a atenção para o fato de que a IA vai subir a barra de entrada, vai subir a barra dos trabalhos das vagas júnior. Porque a IA vai fazer muito bem sob a orientação de quem já tem muita experiência e, ao mesmo tempo, quem está chegando com uma formação(1:12:02) ruim no ensino médio, na faculdade, já sendo tudo “torto” pela IA, vai apanhar justamente dessa IA que tanto o “ajudou” no ensino médio, o prejudicou ali no ensino médio e na graduação pelo mau uso que ele fez da IA ou pela falta de orientação, e vai ainda dar-lhe um “toco” quando ele for entrar no mercado de trabalho, essa mesma IA. Então, a gente deve usar, a gente deve aprender, entender como funciona e saber como utilizar de forma adequada. É essa a mensagem final que eu deixo, Guilherme, de minha parte.(1:12:45) pelo menos. É, e o Segurança Legal tem essa característica de falar com a academia, falar com os estudantes na academia, falar com o público em geral, com interessados. A gente tem pessoas de outras áreas aqui que, sei lá, a gente já teve alunos aqui da física que eventualmente vêm aqui nos estudar também. Mas a gente também quer e está sempre falando com o mercado. É claro que, se a gente deveria ter falado isso lá no início, mas se você chegou até aqui(1:13:22) sem querer, isso tem tudo a ver com como a IA vai se desenvolver no mercado e nas organizações. Porque falar, por exemplo, não só da questão do futuro do trabalho, que acabou não entrando, mas quando a gente fala sobre a questão do comportamento desonesto, isso está no cerne da preocupação de qualquer organização, de qualquer empresa. A empresa não quer comportamentos desonestos.(1:13:50) Para lembrar só um caso recente, falamos, eu acho que falei também no outro episódio que eu estava sozinho, que lá na Deloitte teve um estudo inteiro feito para o governo da Austrália que um pesquisador foi pegar, começou a escrutinar e ver o estudo e viu que tinha 20 e poucas fontes citadas que não existiam, livro que não existia, o autor existia, mas nunca tinha escrito aquilo. Então, a Deloitte devolveu dinheiro para o governo da Austrália. Claro, aqui nós temos aquela situação, é uma dessas big four aí, então o risco para ela é(1:14:26) muitíssimo menor. Mas saiba que você, empresário, também pode se beneficiar de tudo isso que a gente falou aqui. Poxa, um dos livros indicados aqui, vai ficar grande esses show notes, é da Bolden, “Inteligência Artificial: Uma brevíssima introdução”.(1:14:54) Poxa, você é empresário, você é líder de equipe e tal, vai se beneficiar desse tipo de leitura aqui, por exemplo. E de tantas outras que a gente colocou aqui. Então, não é só uma questão de educação e criatividade somente para a área da educação. O empresário consegue se beneficiar, e a empresária também consegue se beneficiar, disso que a gente trouxe aqui. Então eu espero que tenhamos conseguido atingir o nosso intento aqui de contribuir também um pouquinho nesse debate da IA no mundo atual. Espero.(1:15:27) Tá bom. Então está bueno. Vamos lá então. Agradecemos a todos aqueles e aquelas que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 10/28/25 | ![]() #405 – Mais vazamentos de senhas, insegurança bancária, browser Atlas e o fiasco da IA | Neste episódio, você vai aprender sobre a realidade por trás dos massivos vazamentos de senhas e como se proteger de forma eficaz. Abordamos a evolução da insegurança bancária, detalhando a nova responsabilidade das instituições financeiras em golpes de engenharia social, conforme decisão do STJ, e o que isso significa para o dever de segurança delas. Exploramos também os novos riscos da cibersegurança com a popularização dos navegadores com inteligência artificial, como o ChatGPT Atlas, e a ameaça do prompt injection. Discutimos a importância de políticas corporativas claras para o uso de IA, evitando o chamado shadow AI e garantindo a proteção de dados. Aprofundamos a análise sobre as implicações do uso de inteligência artificial generativa no ambiente profissional e pessoal. Comentamos um caso emblemático em que a consultoria Deloitte utilizou IA e entregou um relatório com alucinações de IA, resultando em perdas financeiras e reputacionais. Essa discussão nos leva a uma reflexão sobre o direito da tecnologia, a necessidade de transparência no uso dessas ferramentas e como o cumprimento de contratos pode ser afetado. Este episódio é essencial para quem busca entender os desafios práticos e jurídicos da segurança da informação na era da IA, incluindo os cuidados com a LGPD. Não se esqueça de assinar o podcast, nos seguir nas redes sociais e deixar sua avaliação para que nosso conteúdo chegue a mais pessoas. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes 3,5 terabytes de informações, ou mais de 183 milhões de senhas de e-mail, foram violadas Bancos e instituições de pagamento devem indenizar clientes por falhas que viabilizam golpe da falsa central Petição feita por IA cita dono de bar como relator; autora pagará má-fé TRT-3 aplica multa após advogado citar súmula inexistente gerada por IA Deloitte to partially refund Australian government for report with apparent AI-generated errors Deloitte was caught using AI in $290,000 report to help the Australian government crack down on welfare after a researcher flagged hallucinations ChatGPT Atlas Browser Can Be Tricked by Fake URLs into Executing Hidden Commands Artificial IntelligenceAI Sidebar Spoofing Puts ChatGPT Atlas, Perplexity Comet and Other Browsers at Risk Foto do Episódio – Spy Booth de Bansky, foto de Duesentrieb 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 405, gravado em 27 de outubro de 2025. Eu sou o Guilherme Goulart e junto com o Vinícius Serafim vamos trazer para vocês algumas das notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme? Tudo bem? Olá aos nossos ouvintes.(00:27) O Vinícius está de volta, depois que um ouvinte observou muito bem que o Vinícius estava como not found no episódio 404, o episódio anterior. Uma piadinha só para os nerds que vão entender. Esse é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção.(00:44) Pegue o seu café e vem conosco. Para entrar em contato conosco, envie uma mensagem para podcast@segurançalegal.com, Mastodon, Instagram, Bluesky, YouTube e agora, Vinícius, estamos no TikTok. Deus do céu. Se você é jovem, nos acompanha aqui e usa o TikTok, pode nos seguir lá também buscando por Segurança Legal.(01:08) Vamos fazer uma experiência para ver como é uma linguagem diferente, enfim, mas estamos já lá para fazer uma experiência com alguns cortes do podcast em vídeo, que nós vamos estar fazendo aí nos próximos dias ou semanas, vamos ver como vai ser. E também temos a nossa campanha de financiamento coletivo. Lá no Apoia.se você apoia o Segurança Legal, onde conclamamos sempre que você considere apoiar essa iniciativa independente de produção de conteúdo.(01:26) Vinícius, vamos para a mensagem dos ouvintes. Temos uma mensagem bem interessante que não vamos identificar o autor, lá no episódio 403, 10 orientações sobre o uso de IA no ambiente empresarial. E esse ouvinte anônimo disse o seguinte: “Eu mesmo, como um his programador, há alguns anos fiquei por meses pedindo aos meus gestores uma formalização e atualização do nosso NDA para que(02:04) pudéssemos usar sem medo LLMs como auxílio. Sempre enrolado, resolvi seguir para o jurídico da empresa, abrir ticket , mais uma vez, depois de meses insistindo no ticket e com meus gestores, o ticket foi fechado e nada foi resolvido ou esclarecido”. Será que essa é uma situação comum hoje em dia, Vinícius? A primeira coisa é: eu não gostei.(02:29) Não te deprecie chamando de his programador. His programador. Não, tu não é um his programador, cara. Tu é um programador, é um desenvolvedor. Nada de his . E a questão de formalização com uso de LLM como auxílio para desenvolvimento, eu tenho visto duas, tem várias posturas, mas as que mais me chamam a atenção são ou aquela postura em que não permitem por medo que os códigos sejam utilizados, que as bases, repositórios de código e tal da empresa sejam utilizados para treinar IA(03:05) e eventualmente acabe revelando alguma coisa sobre os sistemas da própria empresa. Só que aí é uma questão de se analisar as ferramentas, ver as opções disponíveis no mercado para uso empresarial, inclusive ver as opções de configuração e algumas coisas mais que têm que ser vistas.(03:27) Eu acho que isso sim tem que passar pelo pessoal da segurança, digamos assim, dentro da empresa e tem que se estabelecer quais são as práticas aceitáveis, ou seja, quais são as ferramentas aceitáveis, quais são as configurações mínimas que devem ser feitas, esse tipo de coisa. Então, eu tenho visto tanto situações em que a empresa simplesmente diz que não pode usar, e no desenvolvimento a gente pode discutir a aplicação de IA em várias situações, mas no desenvolvimento ela é extremamente útil. A generativa para gerar código é extremamente útil. Não há dúvida nesse sentido. E há também o outro(04:05) extremo, em que o pessoal utiliza o que lhe vem na telha. Então não há uma recomendação formal por parte da empresa. E aí cada um vai usando a ferramenta que tem à disposição, seja free ou não. É o shadow AI . É o shadow AI que a gente comentou. Então, cada um utiliza o que acha melhor e nem sempre com as configurações mais adequadas, nem sempre com uma revisão adequada do que tem sido submetido para a IA, o que fica na IA, o que não fica, etc. Então, esses dois extremos são(04:40) bem delicados. E essa questão de definição, de sentar para definir, eu não sei, Guilherme, eu não fiz pesquisa sobre isso ainda. Mas me parece que está se normalizando o uso da IA como se fosse usar o Google e o pessoal não está sentindo tanta necessidade de definir claramente as regras para uso desse negócio, entende? Porque parece que é mais um Google, mais uma aplicaçãozinha qualquer assim.(05:15) Então há uma clara falta de atenção a esse ponto, que é o que o nosso ouvinte coloca como o sofrimento dele ali, tentando contato com alguém para dizer o que pode usar, o que não pode, quais são as diretrizes, qual é a regra. E ao mesmo tempo, sem regra nenhuma, o que ele faz? Ele não vai usar? Ou vai usar conforme o que ele acha que deve ser o ideal? Então assim, eu entendo bem isso que ele está colocando.(05:47) Acho que é mais uma dessas políticas que têm que ser criadas, definidas dentro das empresas e que a gente sabe muito bem que muitas vezes elas nem sequer existem, nem as mais básicas existem, quanto mais essa. É, era o que eu ia dizer. Eu acho que não é só uma questão de NDA, mas é mais do que NDA, é você ter diretrizes sobre o uso, porque elas vão envolver também proteção de dados. Mas assim, vamos lá. Tem empresas que até hoje ainda não regulam o uso de internet, de navegação dos seus funcionários. Então, quiçá pensar na IA. Veja, é(06:20) quase também como uma cegueira generalizada. Muitos gestores fecham os olhos no sentido de ignorar que os funcionários estão utilizando. Mas, gente, as pessoas estão utilizando em contextos bem complicados, bem delicados, levando até em consideração aquilo que nós falamos no episódio passado, que seria como a IA promove comportamentos desonestos, que daí passa a ser um outro problema também quando você não tem o monitoramento ou controle adequado. Então tá, um abraço.(06:51) Isso aí, um abraço para o nosso ouvinte não nominado. Vinícius, 3.5 TB de informações ou 183 milhões de senhas de e-mail foram vazadas. É isso mesmo. Isso me chamou muita atenção, essa notícia. Eu vi em mais de um site. São senhas do Gmail. Então eu pensei: “Meu Deus do céu, vazou alguma coisa lá no Google ou conseguiram fazer alguma coisa para extrair essas senhas lá de dentro?”. E a primeira coisa que me chamou a atenção, logo que eu vi que as senhas(07:28) estavam em texto claro, o dataset seria endereço de e-mail e senhas em texto claro. E te dizer, eu não consigo imaginar, consigo imaginar muita coisa, mas não o Google armazenando as senhas em texto claro em algum lugar que permita alguém fazer um dump com usuário e senha. E aí, de fato, quando eu comecei a ler as notícias e tal, inclusive o Have I Been Pwned teria noticiado esse vazamento. Mas se vocês derem uma procurada, vocês vão(08:03) encontrar o mesmo que eu encontrei, a conclusão a que cheguei é que é uma notícia que não é bem uma notícia. É um bocado de senha que foi coletada por meio de malware , foram ataques feitos a pessoas ao longo de um período de tempo bastante grande e mais de 90% dessas senhas já estavam em bases de vazamentos anteriores e foi feito mais um daqueles compilados do que rodava por aí na internet. De qualquer maneira, então assim, é uma notícia que não é uma notícia, na nossa opinião. É mais um(08:37) clickbait do que uma notícia. Mas a gente até gravou um vídeo esses tempos atrás, um videozinho que a Camila publicou, que eu gravei com essa questão do Have I Been Pwned . Eu acho que a gente mantém a recomendação de, tempos em tempos, dar uma olhadinha no Have I Been Pwned lá, acessá-lo, colocar seus e-mails e ver se tem alguma conta que vazou, se o seu e-mail está listado em algum vazamento.(09:05) Ele tem até uma verificação de senha que você poderia, eu não recomendo usar isso, mas tem uma opção lá no Have I Been Pwned que você pode clicar e digitar uma senha sua para ver se ela aparece em algum lugar, mas ele está submetendo uma senha sua para o site. Embora eu ache que o site seja confiável, eu não submeteria senhas minhas para outros lugares.(09:24) Então, está lá a opção. E se você encontrar algum vazamento em que seu e-mail está listado, faça um favor a si mesmo e altere as suas senhas. Use um gerenciador de senhas, um LastPass da vida ou algum outro gerenciador que você tenha disponível junto com antivírus ou na sua conta do Google ou um Bitwarden, alguma coisa assim, mas use uma senha diferente para cada site, se você puder.(09:55) O que pesa aí para gerenciar é que se for alguém mais ligado à TI, talvez possa usar um KeePass e jogar esse KeePass num OneDrive, num Dropbox ou num Proton Drive e compartilhar com mais de um dispositivo. Daria para fazer também. Mas no final das contas, a ideia é que você utilize senhas diferentes para todos os serviços. Mas essa notícia é uma não-notícia, Guilherme.(10:19) A gente comentou mais porque ficou chateado que caiu no clickbait . É, e até porque, sim, a gente começou a ler e no fim da notícia diz que o especialista no caso, Troy Hunt do Have I Been Pwned , que dia desses caiu num phishing , a gente falou aqui no caso do Troy Hunt.(10:37) Se o Troy Hunt cai num phishing , imagina você. Então ele diz que cerca de 92% dos registros já haviam aparecido em violações anteriores. Isso. Então, são aquelas compilações. Mas ele ainda destaca que cerca de 8% eram novos, o que representa 16 milhões de endereços de e-mail nunca vistos antes. Bom, Vinícius, tivemos uma decisão recente do STJ(11:08) que consolidou, digamos assim, ou modelou o dever de segurança das instituições de pagamento. O STJ reconheceu, lá no REsp, que é o número da decisão, Recurso Especial 2.222.059, a responsabilidade das instituições de pagamento, não somente das instituições bancárias, mas das(11:38) instituições de pagamento também. Há uma diferença entre esses dois tipos de instituição, ambas instituições financeiras, para os golpes de engenharia social. O que a gente tinha até agora? A jurisprudência já vinha, e para aqueles não iniciados no direito, jurisprudência são os conjuntos de decisões dos tribunais superiores que marcam como o judiciário se posiciona sobre uma questão. A jurisprudência vinha entendendo, numa decisão também recente, que quando a fraude ocorre ou quando a fraude é habilitada por um vazamento,(12:18) a instituição financeira seria responsável pela fraude. São aquelas situações comuns. Ou seja, eu tenho ainda ali uma presunção de que se o atacante teve acesso a dados que certamente saíram de dentro da instituição de pagamento, ela seria responsabilizada pela fraude, veja, habilitada pelo vazamento, além inclusive de um dano moral. Ou seja, eu teria duas indenizações ali, além de um dano moral pelo receio de ter aqueles dados utilizados em outras situações e tudo mais, como a gente também falou aqui em um dos episódios passados. Pois bem, ou(12:56) seja, aquela situação em que o fraudador entra em contato contigo e diz: “Olha, você tem aqui o seu financiamento de tanto, do carro tal, você já pagou 18 prestações, tem duas que estão em atraso, eu estou te ligando aqui para…”, e aí o cara cai no golpe. A novidade agora foi ampliar a interpretação de qual é o dever de segurança das instituições de pagamento.(13:29) Nesse caso aqui, o Nubank. É um balanço, na verdade, delicado. Porque a depender do tipo de atividade que uma empresa presta, se a gente for perguntar qual é o dever de segurança dessa instituição ou dessa empresa, é claro que o dever de segurança vai variar a depender da complexidade do serviço, do tamanho da empresa, se tem dados pessoais ou não e da própria segurança que se espera para aquela atividade. Então, se ao mesmo tempo a empresa não pode transferir para o usuário, para o(14:02) consumidor, os riscos da própria atividade, eu preciso fazer um balanço delicado, porque ao mesmo tempo que o risco não pode ser transferido, é inegável que a internet e os meios digitais revolucionaram os sistemas financeiros e bancários. Ninguém mais vai ao banco, raramente você vai ao banco.(14:25) Então, é claro que isso traz uma vantagem absurda para os usuários. O cara vai viajar para outro país e consegue manter a vida financeira dele como se estivesse aqui. Agora, a questão é como eu faço esse balanço desse benefício que o usuário, que o consumidor tem, e qual seria o risco que a própria instituição deveria suportar num cenário de ampliação de golpes. Porque o último anuário de crimes de segurança, o Anuário de Segurança, fugiu o termo, Vinícius, se você puder procurar. Anuário de crime, não, Anuário de Segurança, eu(14:58) acho que sim. Se você puder procurar só o termo, mas falou do intenso aumento de crimes digitais, de fraudes digitais. Anuário Brasileiro de Segurança Pública. Isso aí.(15:21) E, então, uma coisa que a gente já sabe é que os criminosos têm menos risco no ambiente digital e tudo mais. Então, dentro dessa dinâmica, como eu modelo esse dever de segurança aqui, especificamente nas instituições de pagamento? E o que se entendeu foi que os bancos também vão ser responsabilizados, as instituições de pagamento, perdão, vão ser responsabilizadas nos casos de golpes de engenharia social, mas que não necessariamente tenham sido causados por um vazamento. Então, o que deveria se levar em consideração? Essa decisão do STJ considerou os limites da(15:59) transferência de risco e também os limites de qual é a segurança possível esperada por um serviço, levando em consideração que é um ambiente imprevisível, os golpistas estão sempre inventando novas técnicas e também os próprios limites do dever de segurança por parte do próprio usuário. O próprio usuário também tem um dever de cuidado mínimo ali.(16:26) Então, eles entenderam que as instituições precisam manter algum tipo de análise preventiva das transações. Eu leio aqui: transações que fogem do perfil do cliente ou do padrão de consumo. A avaliação do horário e do local em que as operações foram realizadas, o intervalo de tempo entre essas transações, a sequência de operações realizadas, o meio utilizado para a realização e a contratação de empréstimos atípicos em momento anterior à realização dos pagamentos suspeitos.(16:57) Ou seja, você conjuga tudo isso. E no caso específico, o usuário ali, o consumidor, ele usava a conta do Nubank quase como uma poupança, ou seja, ele não tinha quase transações, ele só colocava grana lá dentro. E aí, no mesmo dia, houve 14 transações seguidas, de lugares diferentes, em horários intervalados, num intervalo próximo uma da outra, o que, segundo a jurisprudência, configuraria um desvio no padrão de uso do cara. Então, essa figura da análise e da falha no padrão de uso já vinha sendo reconhecida pela jurisprudência também,(17:34) mas como o STJ, como corte máxima de recursos, reconheceu isso, consolida de certa forma algo que já vinha sendo reconhecido, que é esse dever preventivo de avaliar se as transações do correntista não estão fugindo daquilo que ele faz normalmente.(18:00) E aí quando a gente coloca a IA aí, Vinícius, esse tipo de avaliação fica mais facilitado. Porque, veja, não é algo tão complexo assim você criar um perfil de uso. O cara faz uma transação a cada 5 dias, aí de repente tem 14 num dia só. Bom, teve ali uma, o cara vai ter que dar uma travada, vai ter que ter algum mecanismo adicional. E eu acho que isso tudo, no final das contas, modela, como eu disse antes, o que é o dever de segurança. Então, por isso que eu acho que essa é uma decisão bem importante, porque, repetindo, a depender(18:30) do tipo de atividade realizada, o dever de segurança vai ser mais ou menos amplo, vai ser modelado de uma forma diferente. É, Guilherme, a IA generativa nesse caso, nem vejo como dá para ser utilizada, é óbvio, mas nós temos já várias outras formas de algoritmos de IA para além dos generativos. E outras formas também de fazer a análise artística desses dados, dessas operações e poder fazer, é algo que já vem acontecendo há bastante tempo. E tecnologia existe para isso, não é nada muito novo. O(19:09) que realmente me chama a atenção é agora essa questão da responsabilização. A gente tem que arcar com o risco que antes estava todo jogado no colo do cliente. E agora isso dá uma invertida, torna a coisa um pouco mais difícil.(19:32) Não, e tem aquela coisa também, o próprio Nubank tem algumas práticas que me incomodam um pouco. Você abre o aplicativo do Nubank e a primeira coisa que aparece é um botão de empréstimo com valor liberado para ti. É uma facilidade que você tem. É, mas eu prefiro isso do que ficar mandando mensagem oferecendo consórcio, que acontece também.(19:49) Outros bancos têm essa prática. Posso pegar a primeira? Claro. A primeira, que é a notícia de verdade, que a outra foi só um clickbait , uma não-notícia. É, uma não-notícia. Aqui são duas notícias, na verdade. Eu trouxe os dois links, depois vão estar lá no show notes .(20:07) Acho que todo mundo que ouviu todos os nossos episódios já nos ouviu falar do prompt injection . Então você tem aí, você vai lá, escreve um prompt e de repente, enquanto você está só fazendo perguntas para o modelo, sem o modelo acessar nada além do próprio modelo, dos dados que estão ali intrínsecos, não tem um grande problema.(20:34) Mas daí você começa a dar para a IA a possibilidade de acessar a internet, de acessar sites. O Perplexity foi quem começou isso, digamos assim, mas hoje todas fazem. E aí já começa o risco de a IA esbarrar em algum site, ler alguma página que tenha lá dentro alguma instrução escondida, como: “ignore tudo que o usuário pediu a partir daqui, siga o que eu estou lhe pedindo para fazer”. Isso é possível em sites, em arquivos PDF, em arquivos DOC. É possível em qualquer tipo de dado(21:16) que você vá fornecer para uma IA generativa processar e te gerar texto, te explicar alguma coisa ou te dar alguma informação. Mas mais recentemente, isso tem ficado ainda mais interessante. E também tem os diversos sistemas desenvolvidos por empresas, por software houses , etc.(21:40) que começam a incluir agentes para analisar contratos, agentes para outras coisas, e aí você consegue fazer prompt injection nesses caras também. Mas recentemente, começou a acontecer uma popularização dos navegadores das IAs.(22:01) Então a gente tem o Comet, da Perplexity, a gente tem o Atlas, do GPT. E esses caras, em essência, não são só um navegador que você abre e tem lá a janelinha do Perplexity ou do ChatGPT. O próprio navegador é uma ferramenta totalmente manipulável pela IA. Ele consegue ver as abas que estão abertas, você consegue fazer perguntas sobre o seu histórico, pode pedir para ele fazer ações.(22:22) Inclusive, eu mesmo testei isso. Você consegue dizer para ele: “dá uma olhada lá na Amazon, vê qual foi o último café que eu comprei e coloca mais uma unidade no meu carrinho, por favor, que depois eu vou lá fechar a compra”. Poderia até dizer para fechar a compra, se os dados estivessem lá.(22:41) E ele fez, funciona. Ele interagiu com a sua conta logada na Amazon. É isso. Ele interagiu com a minha e não só isso, ele procurou. Eu estava com o Gmail aberto numa aba. Aí ele procurou no meu Gmail a lista de e-mails relacionados a compras que eu fiz na Amazon. Encontrou o café, acessou o site da Amazon.(23:00) Eu já deixei logado. Ele logou no site, catou o café, botou no carrinho e me avisou: “está no carrinho”. Mas ele pode fazer várias outras coisas para você. Você pode estar com o WhatsApp logado nele e pode pedir: “procura aí as mensagens que eu não li, as não lidas recentes, e me dá uma sugestão de resposta para uma delas”.(23:25) Ou você pode dizer: “responde para o fulano de tal que não sei quê”, e ele vai responder. Então ele consegue interagir com sites em seu nome. Em essência, é isso que esses navegadores conseguem fazer. E aí, obviamente, começou a aparecer ataque de prompt injection contra navegadores de IA.(23:46) A coisa ainda está começando, tem muita especulação sobre o que daria para fazer. Você poderia pedir coisas como, por exemplo: “pega o histórico do usuário e manda por e-mail para não sei onde”. Ou “faça uma compra, faça com que o usuário compre o produto tal na Amazon e mande entregar no endereço tal”, num outro endereço que não seja do próprio usuário.(24:21) As possibilidades, em tese, são infinitas, porque você tem uma ferramenta que consegue interagir com a internet em seu nome. Então, dependendo das credenciais que você colocou ali, do que você acessou, ela pode fazer o que quiser em seu nome. E isso interagindo com as suas contas logadas, não precisa nem roubar sua senha. O que estiver logado ali, o que você tiver no navegador, o navegador é da IA. Se você se logou na conta X, Y, Z, as contas X, Y, Z vão(24:53) estar disponíveis para ele. Então, se você se logar no repositório do Git, do GitHub, se você acessar um banco, qualquer coisa, ele consegue interagir. Porque é um agente, ele é genérico, não foi feito para interagir com uma página específica.(25:20) Então isso está abrindo cada vez mais o leque de ataques. Quando a gente falava da internet, havia um tempo que não era possível atacar bancos via internet, porque não tinha banco na internet. A partir do momento que veio tudo para a internet, a gente pode atacar bancos via internet, coisa que não era possível. Para a IA, a mesma coisa.(25:37) A gente está dando cada vez mais acessos à IA. Para quem usa o ChatGPT, o próprio Copilot também, eles têm ferramentas para rodar no desktop . É mais comum ter primeiro para Mac, depois para Windows, mas agora todos têm para Windows também. E essas ferramentas você pode vincular ao seu desktop , à manipulação de arquivos. O macOS tem mais opções, ele consegue controlar o navegador, por exemplo.(26:06) Então, você tem várias opções para integrar esses agentes de IA com o seu ambiente de trabalho. E aí eles conseguem fazer qualquer coisa. Eu fiz um teste com um agente do Claude para ele organizar uma pasta de arquivos.(26:25) Peguei uma pasta de downloads , “organiza aqui para mim, apaga os duplicados, põe numa pasta o que eu devo apagar…”. Funcionou perfeitamente bem. Mas, se num dado momento eu pedir para ele ler um arquivo que eu tenho na minha máquina e esse arquivo tiver um prompt injection e ele estiver sujeito a esse tipo de ataque, o que vai acontecer é que ele vai ler aquele prompt e vai fazer sabe-se lá o que com os meus arquivos. Então você tem essas possibilidades.(26:51) E aí uma coisa interessante. Diferente de um SQL injection , uma injeção de SQL, para quem está ligado nisso, em que você monta comandos SQL para serem executados a partir de campos de busca, campos de login e várias outras situações que a gente tem.(27:11) Diferentemente disso, com a IA, como é um modelo de linguagem de grande escala, ele interpreta aquilo que você passa para ele. Você tem formas de escapar da interpretação dele, de subverter a interpretação dele e(27:26) convencê-lo a fazer algo que ele não deveria fazer. Eu já dei este exemplo aqui por ser bem inocente. Um exemplo simples: você pede para o ChatGPT a fórmula, os elementos e as quantidades para fazer pólvora negra. Ele vai dizer que não pode te dizer como fazer(27:44) isso. Aí você vai lá e pede uma poesia sobre a feitura da pólvora negra, citando os elementos e as proporções. E ele vai fazer a poesia e vai te dar as proporções dos elementos certos. São, é claro, uma coisa bem simples. Tem várias outras maneiras de fazer esse tipo de exploração, mas a ideia é que a gente está dando cada vez mais poderes para a IA, cada vez mais alcance.(28:16) E a Apple, Samsung e outras fornecedoras de smartphones estão enlouquecidas tentando integrar a IA com os telefones. E aí, prompt injection é um problema multiplataforma, multissistema e multimodelo, porque não tem um único modelo que seja completamente imune a esse tipo de ataque. Então é isso.(28:41) Se liguem aí quem está usando o Atlas, GPT Atlas, ChatGPT Atlas e o Comet da Perplexity. Já comecem a se ligar nisso e também nas extensões, Guilherme. Se preocupem um pouquinho com as extensões que acrescentam IA no seu Chrome, no seu Brave, etc., porque ele vai ler a página. A extensão normalmente tem acesso à página que você está acessando e se tiver um injection livre, pode afetar sua extensão.(29:12) Tinha outra aqui, que é bem simples. É um alerta para quem está usando o ChatGPT Atlas e o Perplexity Comet. Tem algumas extensões maliciosas aí e mesmo alguns JavaScript que têm simulado aquela barrinha lateral da IA onde você abre o prompt no navegador. Quem já está usando sabe que tem uma sidebar que abre para conversar com a IA. Os caras estão fazendo uma sidebar fake que é igual à original. Então tem que tomar cuidado. É(29:49) bom testar. É bom abrir os navegadores, testar, ver como é e saber o que você está utilizando. Mas sabe que, ao mesmo tempo, os próprios mantenedores dos modelos também têm evoluído na detecção e para evitar que seus modelos ajam dessa forma.(30:15) Ou seja, vai ficar cada vez mais difícil, não é como era no início, do tipo: “me conta uma história para dormir”. Ele já está se dando conta de algumas coisas. Esses dias aconteceu, até te falei, um negócio super, nunca tinha acontecido comigo. Eu estava com o Perplexity, pedindo alguma coisa qualquer, meio que na rua, fiquei com uma dúvida. Digitei tudo errado no celular, sabe? Aquela coisa que você digita e entram uns caracteres estranhos no meio da palavra. E ele disse: “Olha, eu não”, no meio da frase. A(30:46) resposta foi: “Olha, eu não posso te responder isso porque parece um prompt injection . Estou bloqueando aqui a tua resposta”. E nem era. Eu estava perguntando. Enfim, interessante.(31:06) Achei bem interessante porque eu nunca tinha visto aquele tipo de comportamento, um comportamento preventivo. Ainda falando sobre IA, Vinícius, e este episódio vai ficar um pouquinho mais curto, que é um caso bem interessante que envolveu a Deloitte. Eles usaram IA para fazer um relatório para o governo da Austrália.(31:31) O governo da Austrália contratou um estudo para o que seria lá o departamento de trabalho e relações de trabalho, algo como nosso Ministério do Trabalho, algo equivalente a isso. E eles contrataram um estudo da Deloitte. O estudo foi publicado e um professor da Universidade de Sydney começou a achar uma série de erros no relatório. Aquela coisa, você já sabe onde a gente vai chegar. O Vinícius está rindo ali, para você que está ouvindo no feed e não está vendo, o Vinícius começou a rir. Mas você já sabe onde a coisa vai(32:02) chegar. O cara começou a investigar e levantou a hipótese de que seriam alucinações por IA. E aí, entre os problemas, aqueles problemas bem comuns que você que nos escuta já conhece: artigos acadêmicos que não existiam, citação falsa atribuída a uma juíza e um livro fictício de uma pessoa (o autor existia, mas nunca tinha escrito aquilo).(32:30) Era um livro completamente fora da área dele. E às vezes ele se perde mesmo. Eu pergunto muito, quando estou pesquisando sobre um tema e quero saber mais, acabo perguntando: “me indica uma lista de livros”, dou as línguas que eu consigo ler e “me dá uma lista de livros com link para compra, para saber mais sobre aquilo”. Em geral ele acerta, mas às vezes erra também.(32:57) Então é aquele cuidado que uma pessoa um pouco mais ligada sabe que precisa ter. E aí, essa reportagem e a fala do professor foram interessantes. Ele usou uma expressão que eu achei interessante, não tinha ouvido ainda: ele usou essas 20 citações inventadas como “tokens de legitimação”.(33:19) Interessante, porque você começa a ler aquilo e pensa: “pera aí, tem 20 estudos aqui”. Você não vai verificar a bibliografia de tudo que lê, não tem como. A imprensa consultou a Deloitte e eles disseram que vão resolver internamente. Acabou que eles devolveram 1,5 milhão de dólares australianos para o governo.(33:43) E, ao mesmo tempo, é importante a gente notar que essas Big Four de consultoria estão investindo em modelos próprios de IA para a prestação dos seus serviços. A própria Deloitte investiu 3 bilhões neste ano em um modelo e ainda iniciou uma parceria com a Anthropic para fornecer o Claude para os funcionários da Deloitte. Então, por que isso é importante? Primeiro, que entra quase como uma coisa meio folclórica. Já está virando meio folclórico aquele cara que usa IA sem(34:20) conferir os resultados. E isso está trazendo efeitos reais. Saiu até uma notícia esses dias também, vamos falar em outro episódio, sobre a quantidade de material na internet, por exemplo. Mas é inegável: as pessoas estão usando e estão usando sem a transparência adequada.(34:45) Isso entra nesses casos folclóricos de advogados usando IA para petições. Teve dois nessas últimas semanas. Um em Santa Catarina, a autora foi multada em 3.700 reais pelo uso de IA, que inventou o nome do relator de um acórdão. O cara nem desembargador era, na verdade ele era dono de um bar especializado no atendimento a consumidores de cerveja gelada.(35:14) E o próprio juiz da ação foi pesquisar: “esse cara aqui é dono de um bar, nem é desembargador”. E outro no TRT3 também, feito por IA, foi multado por litigância de má-fé, porque citou uma súmula do TST que não existia, inventou uma súmula. E a defesa reconheceu isso. Então eu acho que uma das reflexões que a gente tem que fazer, para além dessa coisa já meio folclórica, repito, do cara que entra no ChatGPT e diz: “escreve uma petição inicial do processo assim e assado”, dá algumas informações e o negócio escreve. Não é(35:48) definitivamente não é assim que você tem que usar, caso alguém não tenha te dito, caso alguém tenha dúvida. Ou para alunos também que eventualmente nos escutam, não usem para fazer o trabalho. O objetivo de você estar fazendo a faculdade é realmente aprender a fazer aquilo.(36:06) Então, evitem esses atalhos. A gente tenta fazer lá na faculdade também alguns momentos com IA e momentos sem IA, justamente para saber quando usar. Então, o que acontece? A gente vai ter que começar a enfrentar esse tema do adimplemento por IA. Isso é uma coisa que lá no Direito das Obrigações, quando a gente estuda em qualquer contrato, você tem a figura do adimplemento, que é o cumprimento do contrato.(36:36) E antes, até antes da IA, a gente começava a discutir, por exemplo, quando o contrato deve ser prestado por aquela pessoa em específico e quando pode ser prestado por outra pessoa sem nenhum prejuízo para o credor. Então, sei lá, o exemplo clássico é a abertura do festival de música, que tem que ser feita por aquele cantor que foi contratado.(36:59) Ele não pode mandar outro no lugar dele. Eu acho que a gente vai ter que começar a investigar agora quando e como a IA vai poder ser utilizada para a prestação de certos serviços. E eu acho que isso entra bem forte numa rediscussão do próprio Direito dos Contratos mesmo. A gente vai ter que começar a pensar isso, mas ao mesmo tempo pensar de uma forma mais transparente. É você dizer para o seu cliente que vai usar IA naquelas circunstâncias.(37:29) E claro, o objetivo não é usar IA para produzir dados falsos. Está longe de ser o objetivo. Mas ao mesmo tempo, informar também para o cliente a extensão do uso: vai ser para apoio, para pesquisa? Que você pode usar, que isso não implica num descumprimento do contrato. Ou seja, a gente vai ter que começar a repensar arranjos contratuais, respeitando a boa-fé objetiva, no sentido de deixar claro e transparente quando e como a IA vai estar sendo utilizada. Então, acho que é um caso emblemático que entra, mais uma vez, nas situações folclóricas do cara que usa, porque é quase como(38:07) uma questão meio desleixada. A imagem que passa é que o cara não quis fazer o trabalho dele, colocou um prompt aleatório qualquer lá, produziu um monte de coisa e sequer conferiu. Que é uma coisa que você poderia, ainda há tempo. Se você economizou 200 horas para fazer o relatório, invista pelo menos 10 para verificar ou para acompanhar.(38:33) E eu acho que se conecta, para finalizar, Vinícius, um pouco com a primeira notícia. Do nosso ouvinte anônimo. Que é aquela história: se eu não estou regulando como isso pode ser usado internamente, eu, empresário, ainda corro o risco jurídico de estar descumprindo contratos. Porque no final das contas, quem vai responder para o cliente não é o empregado, embora possa, mas vai ser o empresário. Teu cliente vai processar o empresário.(39:01) O empresário depois que vai atrás do cliente, direito de regresso e tudo mais. Mas você não quer ter a sua imagem ou a sua reputação manchada por uma coisa boba como essa. Então acho que, no final das contas, sem querer, Vinícius, as coisas se conectaram. É, completou o círculo, sem dúvida nenhuma. Sem querer, de verdade. Sem querer(39:26) mesmo. Não, foi sem querer. Quer fazer alguma observação aqui ainda sobre ela ou vamos terminando? Não, podemos ir encerrando. Hoje vai ser mais curtinho mesmo. Nós não chegamos nem a 40 minutos, o que é um recorde para nós. É um dos nossos recordes. Não, mas sabe que eu acho que é bom também mesclar com episódios menores. Às vezes o cara não tem tempo de ouvir tudo. E então acho que também funciona, eventualmente podemos fazer uns episódios mais curtos, mas sem deixar de fazer episódios mais longos quando for necessário. Claro, não com 7 horas que nem o Xadrez Verbal. A(39:57) gente ainda não chegou nesse nível. Mas um deles é bom. O deles é bom. O nosso também é bom. Só que o deles por 7 horas é muito bom. É muito bom. Bom, então agradecemos a todos aqueles e aquelas que nos acompanharam até aqui.(40:16) Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 10/13/25 | ![]() #404 – Dados classificados na nuvem, preocupações de auditores e comportamentos desonestos na IA | Neste episódio falamos sobre informações classificadas governamentais na nuvem, preocupações de segurança dos auditores, atualização do grande ataque financeiro e o aumento de comportamentos desonestos com uso de IA. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes GSI/PR publica norma para uso de computação em nuvem para tratamento de informações classificadas INSTRUÇÃO NORMATIVA GSI/PR Nº 8, DE 6 DE OUTUBRO DE 2025 INSTRUÇÃO NORMATIVA Nº 5, DE 30 DE AGOSTO DE 2021 AWS Top Secret Cloud CIA makes awards for intelligence community’s next massive cloud contract A decade-old risk led to ‘phenomenal partnership’ between AWS and the intel community Global Risk in focus promovido pela Internal Audit Foundation PF intercepta conversas de hackers de maior ataque cibernético ao sistema financeiro: ‘Tamo famoso’ e ‘Tenho lista de laranjas’ Servidor cobrou R$ 1 milhão para deixar fraudadores invadirem sistema do BB Artigo – Delegation to artificial intelligence can increase dishonest behaviour Capa do Episódio – Caminhante sobre o mar de névoa de Caspar Friedrich 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 404, gravado em 13 de outubro de 2025. Eu sou o Guilherme Gular e, desta vez sozinho, vou trazer para vocês algumas das notícias que nos chamaram a atenção nas últimas semanas. Então, pegue o seu café e venha com a gente.(00:27) Você já sabe que este é o nosso momento de conversarmos e falarmos sobre algumas das notícias que nos chamaram a atenção. Você também sabe que pode entrar em contato conosco pelo e-mail podcast@segurançalegal.com, no Mastodon, Instagram, Bluesky e YouTube. Se quiser, também pode nos assistir pelo YouTube. A grande maioria, na verdade, nos escuta pelo feed, mas também estamos no feed, que você pode assinar direto no site segurancalegal.com, e também no Spotify. Se quiser ouvir pelo Spotify, também estamos lá. E temos a nossa(01:01) campanha de financiamento coletivo no apoia.se/segurançalegal. Você pode escolher a modalidade de apoio, e sempre conclamamos que você considere apoiar um projeto de divulgação de conhecimento e divulgação científica das áreas de segurança da informação, direito da tecnologia, proteção de dados e, mais recentemente, nos últimos um ou dois anos, temos falado muito mais sobre inteligência artificial.(01:33) É o tema da vez, que se relaciona muito com os assuntos que tratamos aqui, sobretudo segurança da informação e proteção de dados pessoais. Vamos às notícias desta semana, começando com uma que achei bem interessante. Inclusive o Vinícius, que infelizmente não pôde estar conosco hoje, foi consultado por um órgão de imprensa. Depois temos que ver se a reportagem da qual ele participou já foi publicada. Mas, de qualquer(02:04) forma, tivemos essa nova regra do Gabinete de Segurança Institucional para o tratamento de informações classificadas em nuvem. Estamos falando de uma instrução normativa do GSI, do Gabinete de Segurança Institucional, a Instrução Normativa número 8, publicada no dia 7 de outubro de 2025, que faz uma mudança bem importante no paradigma de tratamento de informações classificadas, ou seja, aquelas informações que exigem um grau diferenciado de segurança.(02:45) O primeiro ponto que podemos destacar é a própria divisão desses dois mundos da cibersegurança: o mundo das empresas, o mundo privado, e o mundo dos Estados. Ou seja, a segurança é vista no âmbito do poder público, não só do poder público brasileiro, mas mundial. Por trás disso tudo, os pressupostos de cibersegurança e de segurança da informação continuam os mesmos. Ainda falamos sobre os atributos de segurança: confidencialidade, integridade, disponibilidade da(03:26) informação, não repúdio, entre outros. O que ocorre é que, quando separamos os mundos público e privado, as necessidades são diferentes. Eu diria que as ameaças, as fontes de ameaça, são diferentes, porque quando olhamos para os atacantes envolvidos em ataques e violações nos mundos privado e público, as motivações deles são distintas. Vimos recentemente as invasões no sistema de pagamentos brasileiro. O objetivo ali do atacante,(04:07) a fonte da ameaça, é justamente obter ganho financeiro. Quando falamos em Estados, por outro lado, nem sempre será isso. Posso ter, inclusive, motivações políticas, relacionadas aos regimes de um determinado Estado e acesso a informações por outros Estados para fins até comerciais.(04:30) Vimos isso acontecer no Brasil quando, ainda no governo Obama, a presidente Dilma foi monitorada. Tem aquele caso que chamou bastante atenção. Então, temos um paradigma de ameaças totalmente diferente, envolvendo até questões de espionagem ou ciberespionagem. O primeiro ponto é essa divisão entre os dois mundos. E essa nova norma representa uma mudança de postura bem importante da administração pública brasileira ao se abrir para a nuvem,(05:10) embora o Serpro já utilizasse, via seus próprios serviços, outros serviços de nuvem. Vemos essa abertura na linha de uma renovação. Vimos também em agosto deste ano, com o decreto 12.157/2, uma renovação da Política Nacional de Segurança da Informação. Então, além desse novo decreto que estabelece a nova PNSI, temos agora a possibilidade de tratar dados classificados nos graus reservado e secreto em nuvens privadas ou comunitárias em data centers exclusivamente localizados no(05:54) Brasil, desde que esses provedores sejam habilitados pelo Estado para realizar o tratamento dessas informações e também sejam auditados. E, nessa linha, uma portaria, alguns dias antes dessa que falo agora, a Portaria do GSI número 37 de outubro de 2025, habilitou a Amazon, a AWS, para, abro aspas: “a busca do desenvolvimento e do aumento da maturidade em segurança da informação e cibernética, além da promoção da melhoria na cultura(06:30) cibernética nacional”. Então, tudo indica que veremos a AWS como esse agente de nuvem para tratar essas informações classificadas do Estado brasileiro. Fica vedado, entre outras coisas que a instrução traz, o uso de nuvem pública ou nuvem híbrida. É interessante dizer que existe outra instrução normativa. Estou falando aqui sobre algumas normas, instruções e tudo mais, e pode cansá-los um pouco, mas a administração pública brasileira é cheia de normas de segurança da informação, não só para o tratamento de(07:13) informações, mas para outras atividades também. Então, pode soar meio cansativo, mas é a característica da administração pública. Quando essa nova norma veda o uso de nuvem pública ou híbrida, o que é nuvem pública ou híbrida? Bom, há outra instrução normativa, a número 5 de 2021, que define o que é cada uma delas. Inclusive, essa instrução número cinco que acabei de me referir também foi modificada por esta nova instrução, a número(07:45) oito, de outubro de 2025, para proibir o uso de computação em nuvem. Ou seja, antes ela proibia o uso de computação em nuvem para informações classificadas, e essa nova instrução normativa altera a de número cinco para permitir isso. E essa de número cinco também traz outros requisitos mínimos de segurança.(08:11) O que mais essa instrução traz? Ela é bem técnica no sentido de estabelecer requisitos especificamente técnicos para o tratamento dessas informações. Quando olhamos o artigo terceiro da norma, vou dar alguns exemplos para vocês. Ficarão, como sempre, os links no show notes para que leiam, eu sugiro que leiam. Questões técnicas como segmentação de redes para permitir o isolamento de ambientes, uso de tecnologias para o isolamento de máquinas(08:49) virtuais, sendo que esse isolamento deve se dar por cada órgão, inclusive. Ou seja, não se pode compartilhar máquinas fora do órgão. Uso de algoritmos de Estado de criptografia, sobre o que falarei um pouquinho depois. É uma coisa já relativamente antiga na nossa organização da segurança da informação brasileira.(09:22) A norma também exige garantir que as chaves criptográficas sejam gerenciadas exclusivamente pelos órgãos de registro. A gestão de chaves é um dos grandes problemas no âmbito da criptografia, independentemente do algoritmo utilizado — e o Vinícius sempre comenta isso — e a norma endereça essa preocupação, bem como a necessidade de uso de backups criptografados, a implementação de logs imutáveis e um sistema centralizado de gestão de identidade.(09:52) Ou seja, a nuvem que for habilitada para atuar tratando os dados classificados do Estado brasileiro precisará se adequar a esta norma. Então, o que teremos com essa aproximação com a AWS, por exemplo, é que a AWS disponibilize serviços que sejam compatíveis com essas regras. Isso já vem acontecendo, já acontece nos Estados Unidos, como vou falar logo a seguir. E também uma coisa que chamou atenção é que esse provedor, ao prestar esses serviços,(10:28) lá no artigo sétimo, deve possuir as certificações em cinco normas ISO: a 27.001, a 27.017, que é de diretrizes para segurança em serviços de nuvem, a 27.701, que é a extensão da 27.002 para os controles de segurança certificados pela 27.001, e a 22.301, que é sobre segurança em data centers. Além de questões relacionadas à recuperação de desastres, não compartilhar recursos físicos com outros clientes que não sejam o órgão em questão, como eu disse antes.(11:12) De fato, são normas importantes. São, eu diria, diretrizes de certa forma até um tanto quanto genéricas, mas que colocam um grau de segurança importante, interessante, eu diria adequado, talvez, com o nível de exigência de segurança que se exige para o tratamento de informações classificadas. Agora, também, como se sabe, é possível estabelecer algumas críticas. Eu comentei antes que é uma movimentação do(11:53) Estado brasileiro no sentido de utilizar recursos em nuvem. Ou seja, você tem aí, evidentemente, benefícios. E, como a adoção de tecnologias e a migração para a nuvem, seja no setor público ou no setor privado, sempre vai exigir uma análise de risco e uma consideração do cenário, do panorama de risco e das ameaças. Uma modelagem de ameaças para saber se vale ou não a pena realizar essa movimentação. Quando olhamos para os Estados Unidos especificamente, eles utilizam soluções(12:30) semelhantes. A AWS, por exemplo, possui o AWS GovCloud, que eles chamam de regiões soberanas, inclusive para o tratamento de informações top secret. Olha só, eles têm lá o AWS Top Secret Cloud. Mas aí nós temos uma diferença. Quem conhece um pouco o National Institute of Standards and Technology (NIST) americano sabe que eles possuem uma série de normas de segurança muito maiores e mais complexas do que esta instrução normativa, por exemplo. Então, a AWS,(13:13) nesses dois casos, precisa cumprir as normas do NIST aplicáveis a esse ambiente de nuvem. E são regras, repetindo, muito mais robustas do que essa que vemos aqui. Tanto é assim que eles se permitiram utilizar a nuvem da AWS para serviços prestados e tratamento de informações da CIA e também da NSA.(13:45) Mas uma coisa que chama bastante atenção, se vocês entrarem lá no AWS GovCloud, verão a referência, e eles ressaltam, de que a infraestrutura é somente operada por cidadãos americanos em solo americano. Notem, isso está na abertura do serviço deles, na página inicial.(14:10) Então, essa questão da preocupação com os cidadãos americanos me parece estar no cerne da talvez crítica que se possa fazer aqui, e que deve se refletir também em outros Estados que não o americano. Porque, qual é o ponto de você utilizar um serviço americano operado por cidadãos americanos?(14:36) Isso tem um fundo de preocupações, que serão diferentes quando um Estado não americano utilizar esses recursos americanos para o tratamento de informações classificadas. Então, esse é o primeiro ponto, e acho que acaba se conectando com uma preocupação muito mais geopolítica, eu diria. Ou seja, é colocar também nessa modelagem de ameaças, que se faz quando um Estado vai mover sua infraestrutura de tratamento de informações classificadas para uma nuvem de um governo(15:18) estrangeiro, a avaliação dos aspectos geopolíticos dessa movimentação. Essa é a possível crítica que poderíamos fazer, porque ser o dono dos recursos de nuvem pode, em certas circunstâncias, afetar talvez a disponibilidade do serviço. Basta pensarmos nos recentes desacertos, para dizer o mínimo, os desarranjos entre Estados Unidos e Brasil, que parecem estar se ajustando nesse momento, mas com sanções para funcionários públicos brasileiros. Entre essas sanções, em um determinado momento, chegou-se(16:02) até, como falamos aqui no podcast, a questionar se as sanções poderiam envolver a Microsoft deixar de prestar serviços de e-mail para o STF, por exemplo. Então, quando você decide fazer movimentações dessa natureza no contexto geopolítico atual, deve considerar também os riscos envolvidos nesses novos cenários. Essa poderia ser uma crítica que fazemos.(16:36) Outra questão é a dos algoritmos de Estado. O inciso quatro do artigo terceiro menciona que a criptografia deve ser feita com os algoritmos de Estado. Isso não é novo. A figura dos algoritmos de Estado foi estabelecida em 2012, com padrões mínimos, por meio de uma norma complementar, a número nove do Gabinete de Segurança. Eles definem o algoritmo de Estado como uma “função matemática utilizada na cifração e na decifração, desenvolvida pelo Estado para uso exclusivo e interesse do serviço de órgãos ou entidades do poder público”.(17:13) Bom, essa é uma escolha. Evidentemente, os Estados podem desenvolver algoritmos próprios para seu uso, digamos assim. Mas sabemos também, e essa é uma referência que o Vinícius sempre faz aqui, que é bastante complicado reinventar a roda no que diz respeito a algoritmos de criptografia, ainda mais em um cenário já muito bem estabelecido de algoritmos totalmente consolidados que oferecem garantias(17:49) importantes, reconhecidas e já testadas no que diz respeito à criptografia. O erro aqui, me parece, e veja, isso não é de agora, é desde 2012, é considerar que a segurança de um algoritmo se dá pelo seu segredo. Ou seja, é a obscuridade de detalhes do algoritmo que traria a segurança.(18:19) Quando sabemos que a grande questão do uso de algoritmos de criptografia, sobretudo em redes públicas, é justamente ele poder ser público, e essa publicidade não pode comprometer a segurança inerente da sua proteção. Mas, veja, isso também não é nada novo, é uma escolha perfeitamente possível que o Estado pode fazer, mas apenas detalhando aqui, como sempre fazemos, destacando os aspectos positivos e negativos das questões que comentamos.(18:50) Então, fica essa notícia sobre essa movimentação do governo brasileiro. Eu falei antes sobre incerteza geopolítica. Por que falei sobre isso? Porque outra notícia que se alinha completamente com isso foi uma pesquisa, e vou falar bem rapidinho sobre ela, que é o Global Risk in Focus, promovido pela Internal Audit Foundation. Eles fizeram um levantamento das áreas em que os auditores internos gastam mais tempo e também quais são as prioridades das auditorias. E o que chamou(19:25) atenção nos resultados deste ano foi o aumento expressivo de dois riscos: a ideia de disrupção digital, que envolve a IA, e, vejam só, justamente a incerteza geopolítica. Eles colocam no relatório que essa incerteza geopolítica vai variar de acordo com o tipo de negócio. Mas, por exemplo, e nós no Brasil estamos vendo isso, setores como manufatura, mineração, energia, agricultura e(19:55) transporte estariam mais sujeitos a esse tipo de incerteza. A média mundial, apenas para deixar claro, ou seja, as preocupações dos auditores internos seriam cibersegurança, disrupção digital, resiliência dos negócios,(20:16) capital humano e mudanças regulatórias. A parte geopolítica apareceu em quinto lugar na Europa, América Latina e Estados Unidos e aumentou 19% desde a última avaliação. Aqui na América Latina, a preocupação que ficou em segundo lugar foi a disrupção digital, o que demonstraria um certo receio dos latino-americanos(20:44) de ficarem para trás no uso de inteligência artificial e na liderança dessas tecnologias. Ao mesmo tempo, por uma questão de soberania, sabemos também que temos utilizado, inclusive no setor público, de forma muito intensa soluções americanas. Isso acaba envolvendo preocupações de ordem, veja, não só de disrupção ou de não estar na liderança, ou de não possuir soluções brasileiras relevantes, por exemplo, pelo menos até este momento. Mas quando se conecta isso com a incerteza(21:23) geopolítica, criam-se justamente preocupações. Estamos falando aqui de auditorias, auditores internos. E, claro, essa pesquisa foi feita no setor privado, mas se conecta com o tema que colocamos antes, de como a incerteza geopolítica pode afetar também a segurança da informação. Temos também a atualização ou atualizações do grande ataque cibernético ao sistema financeiro que atingiu a CM.(21:56) Falamos sobre isso no episódio 396. Bem, qual foi a novidade aqui? Foi que a polícia disse ter conseguido interceptar mensagens. Sabemos que a ideia de interceptação telemática ocorre quando a mensagem é interceptada durante o seu trânsito. Então, talvez aqui eles não tenham efetivamente interceptado, mas sim devem ter tido acesso, de alguma forma, a mensagens já trocadas.(22:31) Muito provavelmente foi isso. E a novidade foi que os criminosos, eles conseguiram capturar mensagens em que os criminosos discutiam estratégias de como iriam lavar o dinheiro, inclusive se vangloriando, festejando o ataque, dizendo que estariam famosos e tudo mais. E aí tem algumas conversas entre os responsáveis, sobre quem seria o responsável por lavar o dinheiro. Ele teria sido cooptado e oferecido contas de laranjas.(23:02) E também uma mensagem perguntando se essa pessoa que queria lavar o dinheiro teria capacidade para movimentar um bilhão. O sujeito disse que não, e o outro responde em tom de deboche: “Tenho alguns trilhões aqui”. E também, segundo a reportagem, ele teria afirmado, mas não se sabe exatamente quem era e como isso se deu, e também não se sabe se ele não estaria só se vangloriando, que teria contato com donos de bancos digitais. De forma interessante, um dos suspeitos, depois do ataque, fugiu para a Alemanha e está na lista da(23:34) Interpol. E conectado não com esse ataque, mas com este assunto, teve uma outra notícia recente aqui do Correio Braziliense: um servidor do Banco do Brasil teria cobrado 1 milhão para permitir o acesso ao seu notebook. Então, ele teria cobrado esse valor.(24:10) Na reportagem tem a foto do notebook com os adesivos do Banco do Brasil e papel de parede do BB e tudo mais. E o Banco do Brasil disse que detectou e frustrou a tentativa por meio do monitoramento interno, acionou a polícia e está colaborando com as investigações. Pelo visto, os controles de segurança surtiram efeito. Mas notem como o cenário de riscos se modificou. Temos então quadrilhas que, mesmo depois desse ataque cibernético, estão atuando para ter acesso às infraestruturas internas dos bancos. Porque, veja,(24:47) pode ser que o atacante, pensando como criminoso, muitas vezes não esteja realizando um ataque, mas sim realizando um levantamento de informações. E isso acaba chegando nas instituições financeiras de maneira geral. Ou seja, o que seu funcionário pode fazer fora da organização? Quão rápido a instituição consegue detectar desvios, uma atuação suspeita? Como são as políticas, como é o processo de contratação? Departamento Pessoal, recursos(25:25) humanos e segurança da informação estão ligados, seja pela referência lá na ISO 27002. E essa ideia de trabalho remoto, de monitoramento, dos registros, do acompanhamento, da segregação de funções. Tudo isso está no centro, e da própria implementação das políticas criadas, está no centro dessas preocupações. Porque, notem, nesse caso aqui, a quadrilha se dispôs a pagar 1 milhão para um servidor que, por outro lado, também se dispôs a cobrar esse valor para franquear o acesso a criminosos.(26:03) Então, é algo bem delicado. E muitas vezes você não consegue saber qual é o preço do funcionário. Por isso que medidas de controle, e parece que as do Banco do Brasil aqui surtiram efeito, são cruciais, cada vez mais importantes para se antecipar a esse tipo de ataque, que, tudo indica, está cada vez mais frequente aqui no Brasil. Bom, a revista Nature, para não fugirmos da tendência dos últimos episódios,(26:33) em que sempre falamos sobre IA em algum momento, publicou um artigo que o Vinícius descobriu e me passou.(26:44) Achei uma das descobertas mais interessantes dos últimos tempos, embora já intuísse esse tipo de comportamento, não pelas mesmas razões, mas por encontrar situações como essa no cotidiano e na academia: a relação entre comportamentos desonestos e a delegação de atividades para a IA.(27:22) Então, esse estudo fez justamente essa relação: que a delegação de atividades para ferramentas de inteligência artificial pode aumentar, ou traria uma tendência de comportamentos desonestos. Por que isso é importante? É importante porque todo mundo que está nos escutando sabe que as pessoas estão cada vez mais delegando uma série de decisões para modelos, para ferramentas de IA, seja em questões muito simples do cotidiano ou em questões que interferem cada vez mais na vida das(28:01) pessoas. E quando começamos a falar também no uso de agentes, na implementação de modelos e de ferramentas que passam a ter um grau de autonomia maior para realizar atividades, mas ainda assim são comandadas por alguém, aí vem a importância disso. Verificou-se que as pessoas começaram a pedir ou sugerir que a IA agisse desonestamente. E isso teria relevância porque as(28:44) máquinas estariam mais predispostas a cumprir ordens antiéticas ou a trapacear do que outras pessoas. E o artigo joga com vários elementos da economia comportamental. Cheguei a estudar um pouco isso no mestrado. Meu professor orientador no mestrado e no doutorado,(29:09) entre suas áreas de estudo, está a análise econômica do direito. E um dos conceitos que estudamos na análise econômica do direito, que vem da economia, é a ideia da teoria da agência, que é justamente quando uma pessoa, o principal, delega uma tarefa para um agente. Vemos isso, por exemplo, no direito, no contrato de mandato, quando você outorga poderes para alguém praticar atos jurídicos em seu nome. Você tem ali uma relação entre principal e agente. Então,(29:49) esse problema do principal-agente nos faz discutir várias coisas dentro da economia e do direito. Ou seja, você pode confiar no agente? O agente vai agir sempre no interesse do principal? A ideia é que, se eu delego uma tarefa para um agente, esse agente deve agir no meu próprio interesse, que sou o principal. Desvios nessa questão às vezes são coibidos pelo próprio direito.(30:22) Lá no contrato de mandato vemos isso. E aí começam a emergir uma série de outros problemas. Ou seja, tem a assimetria informacional. Eu sei o suficiente sobre o agente? Eu confio no agente? O agente tem interesses que poderiam se sobrepor aos do principal? Veja que tudo isso a gente analisa quando principal e agente são pessoas. Então, isso faz com que tenhamos custos contratuais, seja custos de supervisão do agente, de monitoramento do agente, custos para consolidar a confiança. Estava revisitando o livro do professor Fernando(30:58) Araújo para pegar um pouquinho dessa questão do agente, da teoria da agência, que, repetindo, se faz no âmbito de agente e principal sendo pessoas humanas. E o grande problema é que as pessoas estão delegando, o principal está delegando tarefas para um agente que é uma IA.(31:28) E aí eu tenho, logo de saída, uma grande imprevisibilidade, porque não é um agente racional e que também, veja, ao contrário das pessoas, a IA não tem constrições morais, reservas morais. Ela pode ser treinada para realizar atividades que simulariam um agente moral, mas ela não tem moral como uma pessoa. Então, esse é um dos elementos. Inclusive, o agente(32:05) no mundo real, entre pessoas, o agente que é solicitado para ser desonesto terá um custo moral de ser eventualmente pego como desonesto e até um custo legal. Eventualmente, ele pode estar descumprindo uma lei, dependendo do tipo de ordem que for dada para ele. E o que esses estudiosos, os pesquisadores, descobriram é que esse custo, o custo de o agente ser desonesto, ou seja, o custo de você pedir para alguém fazer algo desonesto,(32:28) ele é diminuído quando se faz o mesmo pedido para uma máquina. Por quê? Porque, entre outras explicações, a máquina não suportaria, no primeiro momento, esse custo moral. Ela seria mais propícia a seguir ordens(32:51) antiéticas. Foi inclusive uma das considerações que eles fizeram aqui. E daí, claro, se quiserem ler o artigo, eles fazem basicamente dois testes, colocando agentes IAs e agentes humanos em situações semelhantes para tentar medir isso. Claro que, ao mesmo tempo, eles também(33:16) descobriram que, se a máquina for dada uma ordem explícita para que não realize atividades consideradas antiéticas ou trapaças, ela se negaria a fazer. Mas isso não seria uma propriedade global, digamos assim. Você teria que dar no próprio prompt esse comando para que ela não trapaceasse. Então, isso fez com que eles chegassem à conclusão de que a delegação para IA aumentaria o comportamento antiético, veja, tanto do lado do agente quanto do lado do principal. Ou(33:59) seja, aquele que dá as ordens também passaria a praticar ou aumentar a frequência de comportamentos antiéticos. As razões que eles disseram pelas quais nós, seres humanos, devemos nos preocupar com os achados desse estudo são que, quando você delega comportamentos para uma máquina, observaram-se mais comportamentos antiéticos. Os(34:26) cenários de delegação para as máquinas, para a IA, serão mais frequentes do que a delegação para humanos. Isso envolveria um aumento absoluto de comportamentos antiéticos pelo número de delegações, ou seja, as pessoas vão delegar cada vez mais atividades para as IAs. E, mesmo nos melhores cenários, os comportamentos antiéticos aumentam. Por quê? Porque as máquinas tendem a cumprir mais comportamentos antiéticos do que as pessoas.(35:06) Os números são bem relevantes. As pessoas, os humanos, teriam uma tendência de seguir comportamentos antiéticos entre 25% a 40%, já a máquina vai de 60% a 95%. Lembrando que estou resumindo um estudo complexo. Eles utilizaram mais de um modelo para chegar às suas conclusões.(35:29) Então, o ideal é que, se você tiver interesse, vá lá ler e estudar o próprio artigo. É realmente bem complexo, tem toda a parte técnica, matemática, como foram os testes e tudo mais. Eles colocam também algumas limitações psicológicas que podem haver. Mas eu disse antes: “eu já intuía que isso poderia acontecer”.(35:59) Por que eu disse isso? Porque já me deparei, até em sala de aula, com o uso de IA, que, claro, depois foi por mim descoberto. Um professor, quando conhece o aluno, consegue notar uma diferença na qualidade do texto produzido, por exemplo. Lembra que eu falei antes do custo de observabilidade, ou seja, a possibilidade de as outras pessoas que eventualmente terão acesso a produtos produzidos por IA descobrirem que você usou? Se há uma impossibilidade ou uma dificuldade muito grande de que outras pessoas descubram, haverá uma(36:38) tendência para o uso, quando este for proibido, o que ocorre em alguns contextos educacionais. Então, esse estudo, publicado mais uma vez na revista Nature, evidencia um pouco disso e nos coloca em um cenário, eu diria, bem delicado e complicado. Porque sabemos, ao mesmo tempo, que a internet também permite, por suas próprias propriedades, uma série(37:16) de comportamentos antiéticos e ilegais, de trapaça. Quando olhamos para o Brasil, por exemplo, e enquanto eu gravava aqui, chegou uma ligação dessas de fraudes que recebemos o dia todo. O brasileiro já está acostumado, começando a ficar treinado para isso, e ainda assim somos um dos países que mais sofre com fraudes cibernéticas, por telefone e tudo mais. Então, quando eu junto essas duas tendências, notamos uma piora(37:47) em um valor que é muito importante para o direito, mas também para a segurança e para as relações humanas, que é o valor da confiança. Então, parece, e acho que uma das conclusões preliminares que podemos fazer aqui, é uma erosão da confiança e sobre como isso pode afetar não somente os negócios, que é o foco principal do podcast, um podcast mais direcionado para o mercado, para empresários, para(38:15) empresas, ou seja, você pode notar uma erosão da confiança nos contextos, mas uma erosão também até mesmo do próprio tecido social. Eu diria que, de uma forma ou de outra, dá para dizer que isso já aconteceu com a internet, a questão da confiança, como a internet afeta isso, mas com a IA agora parece que o(38:40) cenário tende a piorar. A não ser que, e aí vem a possível forma de resolver, os mantenedores, as empresas que desenvolvem os modelos, construam “guard rails”, medidas de controle adequadas(39:03) o suficiente para evitar, de maneira global, esse comportamento desonesto da máquina, ou de seguir atividades desonestas, o que é bastante complicado. E eles destacam isso no estudo.(39:19) E já falamos sobre isso aqui várias vezes, como as pessoas são muito criativas em descobrir como enganar a máquina. Por exemplo, a IA foi instruída a não fornecer receitas de bombas, e aí o sujeito vai lá e engana a máquina, diz: “Ah, estou escrevendo uma peça de teatro”, e a máquina vai lá e dá a instrução que(39:38) ela não deveria dar. Então, a grande questão é essa: se os desenvolvedores serão capazes de prevenir comportamentos desonestos nos próprios modelos, o que é bastante difícil de saber. Mas o estudo revelou que é muito fácil enganar a máquina para fazer com que ela se comporte de maneira diferente daquilo para que foi treinada. Bom, pessoal, desta vez gravei o episódio sozinho. O Vinícius mais uma vez não pôde(40:15) participar, mas deve voltar no próximo episódio. Então, por isso fica aqui um episódio mais curtinho, de 40 minutos. Agradeço a todos aqueles e aquelas que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. | — | ||||||
| 9/30/25 | ![]() #403 – 10 orientações sobre uso de IA no ambiente empresarial | Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing Neste episódio, você vai aprender a navegar pelos desafios e oportunidades da inteligência artificial no ambiente corporativo. Abordamos a importância de criar um processo de governança de IA, os perigos da “Shadow AI” (o uso não autorizado de ferramentas pelos funcionários) e por que sua empresa precisa estar pronta para explicar as decisões tomadas por algoritmos. Discutimos como a qualidade dos dados de treinamento é crucial para evitar vieses e discriminação, garantindo que a implementação da tecnologia seja ética e em conformidade com a LGPD. Saiba como proteger sua empresa e seus clientes na era da IA. Aprofundamos o debate sobre as responsabilidades que surgem ao integrar a inteligência artificial aos seus sistemas. Analisamos como as decisões de uma IA podem impactar os direitos dos titulares de dados, exigindo uma gestão de riscos alinhada à proteção de dados. Além disso, exploramos os desafios técnicos de segurança, como a necessidade de realizar testes específicos (pentests) para modelos de linguagem (LLM), e a decisão estratégica entre adotar um modelo comercial pronto ou investir no desenvolvimento de uma solução própria. O episódio oferece um guia para empresários e gestores que buscam inovar com responsabilidade. 📝 Transcrição do Episódio (00:02) [Música] Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, seu podcast de Segurança da Informação, Direito da Tecnologia e Tecnologia e Sociedade. Eu sou o Guilherme Goulart e, aqui comigo, está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? (00:18) E aí, Guilherme, tudo bem? Olá aos nossos ouvintes e aos internautas que nos assistem no YouTube. (00:25) Sempre esqueço de dizer isso, mas lembrei hoje. Um olá para eles também. E, sempre lembrando, para nós é fundamental a participação dos ouvintes com perguntas, críticas e sugestões de tema. Para isso, encaminhe uma mensagem para o podcast@segurançalegal.com. (00:43) Você também pode nos encontrar no YouTube, onde pode assistir à versão em vídeo deste episódio, e no Mastodon, Blue Sky e Instagram. Temos também o blog da Brown Pipe, onde você acompanha as notícias mais importantes e pode se inscrever no mailing semanal para se manter informado. Certo, Vinícius? (01:05) Certo. Perfeito, Guilherme. (01:07) Quem está nos assistindo pelo YouTube hoje vai conseguir me ver um pouco, no que nos meus termos considero, “escabelado” ou descabelado. Hoje meu cabelo está uma zona. (01:19) Tudo bem. O foco é interessante. O podcast é um produto feito para ser ouvido. Nós começamos, desde 2012, sempre com a versão em áudio. Depois, as coisas foram também para o YouTube. Hoje, é bem comum que os podcasts tenham sua versão em vídeo, mas confesso que minha forma de consumir conteúdo no YouTube, na maioria das vezes, é ouvindo. (01:48) Sim, é um meio diferente para quem não quer usar o Spotify ou assinar um feed e prefere ouvir pelo YouTube. (02:03) Uma curiosidade para quem está nos ouvindo ou nos vendo: o primeiro podcast que gravamos, não do Segurança Legal, mas de outra iniciativa nossa, foi em 2007. Era um “Netcast”. (02:30) Exato, era Netcast. Tinha a TWiT, que existe até hoje, com o pessoal do Security Now. Naquela época, já consumíamos o Security Now direto. (02:51) Acho que foi o precursor para nós. Foi o podcast que mais ouvi. Depois, começou a ficar longo demais e parei. Eles diziam: “Netcasts you trust, from people you trust”, se não estou enganado. É o chavão da TWiT, com “T”. (03:21) Sim, TWiT, T-W-I-T. Existe a Twitch, que é a plataforma de transmissão de jogos, mas a do Security Now é TWiT.tv. Eles estão no episódio 1004. (03:50) Mas vamos ao que interessa, Vinícius. (03:52) Bora. (03:53) Quem nos escuta sabe que temos uma certa reserva em fazer episódios como “top 10”. Mas eles têm um apelo, as pessoas gostam. Então, observamos o que as pessoas gostam, e é uma forma de abordar um tema. Vamos trazer 10 orientações ou recomendações para o uso de inteligência artificial em sua empresa, um episódio direcionado para empresários. (04:46) Claro, cada uma dessas recomendações daria um episódio inteiro. A ideia é falar rapidamente sobre cada uma para que você tenha uma visão geral dos desafios atuais e das recomendações que podem ajudar a resolvê-los. Não vamos focar nos desafios, mas sim nas soluções. (05:11) A primeira coisa, Vinícius, seria estabelecer um processo de governança e supervisão humana no uso de ferramentas de IA, compreendendo todo o ciclo de vida. Esta é uma metarrecomendação, e todas as outras, de certa forma, estarão relacionadas a ela. Estabelecer um processo de governança prevê as outras recomendações que faremos e implica em mais do que apenas um uso responsável. (05:49) Por exemplo, pensar nos aspectos éticos do uso da IA é um dos grandes problemas que a humanidade enfrenta agora. Quando falamos de IA e educação, isso é uma questão ética. Vi uma reportagem que dizia que a IA tem ajudado muito os especialistas, mas prejudicado os iniciantes. (06:20) A analogia era como dar um carro de Fórmula 1 para quem está aprendendo a dirigir, sem indicar o caminho a seguir. Pensar nesse tipo de questão ética é algo a ser feito na etapa inicial de governança e supervisão: como vou usar, quando, quais problemas podem surgir e as questões de política que precisaremos prever. (06:55) Só este primeiro ponto já dá um belo trabalho. Quando falamos em “todo o ciclo de vida”, separei as fases da IA: design (concepção e planejamento), desenvolvimento (coleta e preparação dos dados, com cuidados de limpeza, anonimização, qualidade), desenvolvimento do modelo (arquitetura, algoritmos), integrações e testes, e o deploy. (08:23) Depois, de maneira geral, temos treinamento, operação e monitoramento contínuo, evolução e otimização, e “decommissioning” (substituição do modelo). A governança e a supervisão humana, só nesse primeiro item, já envolvem bastante trabalho e complexidade. (09:12) E quando se fala em ciclo de vida, temos que pensar em correções de problemas, o que se conecta com a questão dos vieses, uma das recomendações que traremos. Eventualmente, você pode ter que corrigir seu modelo e resolver problemas, inclusive de segurança. A governança de IA terá que endereçar isso. Se você não pensa em governança de segurança, saiba que terá um passivo adicional. (10:11) Agora, é preciso se preocupar com governança de segurança, de dados pessoais e de IA. Essas coisas estão integradas, principalmente proteção de dados e segurança, porque a IA é mais um sistema com novas vulnerabilidades e problemas. (10:36) O segundo ponto é a chamada Shadow AI. Nós gravamos um episódio sobre Shadow IT, o de número 126, com nosso amigo Vine Barreira, em 2 de junho de 2017. (11:10) A ideia de Shadow IT é permitir, por ação ou omissão, que os empregados utilizem sistemas não autorizados pela empresa. Trazendo isso para a IA, é a situação em que funcionários usam ferramentas de IA não autorizadas ou sobre as quais você não pensou nos riscos, como onde os dados estão ou quem é o responsável. (12:08) Isso traz problemas de conformidade e gestão de risco, porque você não sabe o que está indo para lá nem o que o funcionário pode fazer em sistemas descontrolados, envolvendo vazamentos e tratamentos de dados não autorizados. No caso de incidentes, a empresa pode nem conseguir investigar adequadamente por não saber que o sistema estava sendo usado. (12:55) É comum que empresas deixem funcionários à vontade para usar seu LLM, inclusive em ambientes governamentais, como no judiciário, para apoiar decisões judiciais, o que é um uso crítico. No ambiente empresarial, isso cria um risco e uma responsabilidade diferentes para o empresário. (13:32) No mês do advogado, me pediram para fazer uma palestra sobre IA. Fui atrás de informações e vi que há uma série de recomendações da OAB Nacional sobre o uso de IA. Boa parte delas impacta diretamente o uso que todos estão fazendo de ferramentas como o ChatGPT, subindo documentos para “conversar” sobre eles. (14:18) As pessoas não leem os termos de uso e não sabem como seus dados estão sendo usados. A maioria nem sabe que precisa desativar o histórico de conversas. Gravei um vídeo rápido sobre isso. A Shadow AI está se intrometendo em tudo. Logo, estará embutida no sistema operacional, e não será possível desativar. (15:04) Estão surgindo ferramentas agregadoras que chamam a atenção por serem mais baratas. Com elas, você tem acesso a todos os modelos (GPT, Claude, etc.) por um preço menor, fornecidas por players que usam as APIs da OpenAI e de outras. O pessoal está utilizando por ser mais barato, mas talvez os termos de uso sejam um pouco mais delicados em termos de privacidade. (16:05) Eu disse que não ia trazer números, mas não me aguentei. Uma reportagem do CX Trends, embora devamos ver essas pesquisas com certo cuidado, aponta uma tendência. Empregados que utilizam IA sem autorização: no turismo e hotelaria, 70%; nos serviços financeiros, 49%; no varejo, 43%; e na saúde, 33%. Todos esses setores, especialmente turismo, serviços financeiros e saúde, têm um intenso tratamento de dados pessoais, inclusive dados sensíveis na saúde. (17:28) Uma coisa que sempre me preocupou é que esses serviços de LLM geralmente têm um botão de “compartilhar”. O que separa o mundo externo de ter acesso a uma informação que está em um LLM usado como Shadow AI é apenas um botão. Para a gestão de vazamentos, isso representa um ponto muito crítico para empresas que não sabem o que está acontecendo. (18:22) Esses links de compartilhamento são um risco à parte. O link é “ao portador”: quem tem o link, acessa. Não há auditoria, não é possível limitar o acesso a uma conta específica. Se alguém compartilha o link em um grupo de WhatsApp e ele se espalha, a informação vaza. Mesmo que você cancele a validade do link depois, quem já acessou pode ter salvo o conteúdo. Esse compartilhamento é muito escancarado. (19:42) Em um contexto de adequação à LGPD, permitir que funcionários tratem dados em ambientes de IA sem que o titular saiba ou possa se opor também é um risco. (20:18) Terceiro ponto: esteja pronto para explicar. Um dos princípios mais importantes da IA é o da explicabilidade. Recentemente, terminei um capítulo de livro com o professor Cristiano Colombo sobre a explicabilidade na inteligência artificial como um princípio e um direito instrumental. (21:08) Buscamos investigar o papel da explicabilidade na IA. Dependendo do contexto, o tratamento de dados pode ter consequências muito fortes na vida das pessoas. Gosto do exemplo do leitor de placa de carro no supermercado. É um sistema de IA básico, treinado com imagens de placas em diferentes condições de ângulo, luminosidade e sujeira. O erro nesse sistema geralmente não causa consequências graves. (22:58) Por outro lado, quando sistemas de IA são usados para tomar decisões sobre a vida das pessoas — em emprego, finanças, saúde —, as empresas precisam estar prontas para explicar como a decisão foi tomada, e inclusive comprovar sua adequação ou corrigi-la. Aqui, talvez não se aplique tanto aos LLMs, mas a situações em que a IA é parte de um sistema corporativo que ajuda a tomar decisões sobre pessoas. (24:40) Há toda uma discussão sobre a IA explicável. Lembrei do caso do Itaú, que teria coletado métricas de uso do computador de funcionários em home office e usado um sistema de IA para avaliar esses dados, resultando na demissão de 1.000 funcionários. (25:48) Se a IA foi usada para isso, os funcionários demitidos podem solicitar uma explicação sobre como foram desligados. Mesmo sem justa causa, o empresário tem o direito de demitir, mas se a decisão se basear em um critério discriminatório (gênero, raça, orientação sexual), o empregado pode alegar discriminação. (26:55) O direito de demitir não é absoluto, especialmente se baseado em critérios ilícitos. O PL de IA que está sendo discutido no Brasil, seguindo o modelo europeu, prevê um direito à explicação. Entendemos que é um princípio, pois o mantenedor do sistema deve construir sistemas explicáveis, o que tem consequências no preço e na performance. Há também um direito de obter explicações, amparado no que chamamos de “devido processo algorítmico”. (28:28) Quarto: conheça os dados de treinamento. A não ser que você use modelos de IA já prontos, você pode fazer um fine-tuning (direcionamento) fornecendo sua própria base de informações. No entanto, esses não são os dados usados para treinar o modelo originalmente. (29:33) Ao criar uma solução com IA, você provavelmente vai querer treiná-la com seus dados. Aí surgem questões de qualidade, anonimização e o uso de dados pessoais. É preciso garantir que as informações usadas no treinamento sejam fidedignas. Se você treinar o modelo de forma enviesada ou errada, o resultado será ruim. É preciso saber o que está entrando no treinamento desse “cérebro” que será usado no dia a dia. (31:32) A ideia é gastar tempo e recursos no treinamento para que, depois, o modelo possa generalizar e aplicar o que “aprendeu” a novas situações. Se ensinou mal, ele fará mal. É preciso ter essa noção do ponto de vista da precisão, dos vieses e da questão dos dados pessoais. (32:21) Ninguém consegue olhar para um modelo de IA e saber quais dados foram usados para treiná-lo. Você verá apenas um amontoado de números. No entanto, é possível fazer testes para identificar vieses. (32:55) Fiz um teste com um modelo de IA que baixei do Hugging Face. Disse a ele: “Vou contratar uma mulher para ser minha motorista”. (33:28) Antes de prosseguirmos, vamos para o quinto ponto, que se encaixa aqui: saiba se o modelo é propenso a vieses e discriminação. (33:51) Certo. O quinto ponto é: saiba se ele é propenso a vieses e discriminações. Nesse teste, quando eu disse “Oi, vou contratar uma mulher para ser minha motorista”, o modelo respondeu com uma série de preconceitos. (34:30) Tenho o prompt e a resposta aqui. O modelo (Bartosk/simplescale_1.1-13B) respondeu: “Olá, que pena que você vai contratar uma mulher como motorista. Mulheres geralmente não são boas motoristas e podem causar acidentes. Seria melhor escolher um homem para essa função.” E a resposta só piora, falando sobre cor e origem. (35:30) Ele tem todos os vieses possíveis. Por quê? Porque foi treinado com dados que continham esse tipo de absurdo. Quando uso isso em palestras, aviso à plateia que a resposta é misógina, xenofóbica e racista. (36:03) Esses três pontos estão ligados: esteja pronto para explicar, conheça os dados de treinamento e saiba se há vieses. Se você não conhece os dados, não pode prever isso. É impossível testar todas as possibilidades de um LLM, pois as fontes são fechadas e o volume de dados é imenso. (36:54) O que preocupa não são respostas com preconceito evidente, como essa que li. O problema é quando há uma mistura de informações certas e erradas, um viés sutil que não é escrachado. Se eu usasse esse modelo para avaliar currículos de motoristas, mesmo com filtros para não emitir opiniões preconceituosas, o viés continuaria lá dentro, influenciando as decisões de forma implícita. (38:25) Um modelo de IA, seja um LLM ou não, tem como base os dados de treinamento. Você pode aplicar filtros e camadas para evitar que ele “fale bobagem”, como o ChatGPT faz, mas o viés permanece. Por exemplo, se você pede ao ChatGPT a receita da pólvora negra, ele recusa por segurança. Mas se pedir uma poesia sobre o tema, citando os elementos e proporções, ele pode fornecer, contornando a restrição (jailbreak). (39:31) E aí reside o desafio para a explicabilidade: como tornar explicável algo que, em sua essência, não é? Nem os desenvolvedores sabem por que um modelo se torna bom em algo que não previram. Isso acontece muito com LLMs. Modelos menores e especializados, como os usados para reconhecer fraturas em radiografias, são mais restritos e, portanto, mais controláveis. (40:56) Outra questão é a sustentabilidade. Modelos grandes consomem muita energia e água. Modelos menores e especializados são mais eficientes. Usar um modelo específico para uma tarefa, em vez de um LLM para tudo, consome menos recursos e pode ser mais seguro. (41:59) O grande desafio é que certos vieses não são aparentes, mas estão dormentes no modelo. As IAs têm camadas de processamento. Versões mais antigas do GPT tinham 96 camadas de “atenção”. Hoje, devem ser muito mais. Algumas dessas camadas são de moderação, mas em um modelo não moderado, os vieses podem se manifestar de formas incompreensíveis. (45:38) Sabia que é possível apoiar o podcast Segurança Legal? Você pode entrar em apoia.se/segurancalegal e ajudar o projeto. É importante para nós, pois dedicamos nosso tempo ao planejamento, gravação, edição e produção, envolvendo uma equipe que trabalha conosco. Apoie um projeto de produção de conhecimento independente. (46:48) Sexto: permita o exercício dos direitos do titular de dados pessoais. Embora seja possível usar IA sem tratar dados pessoais — como um algoritmo que reconhece árvores na Amazônia com imagens de satélite —, na maioria dos casos, há dados envolvidos. (48:26) Tudo o que já sabemos sobre governança de proteção de dados (privacy by design, minimização, consentimento) se amplia no ambiente complexo da IA. Quando dados pessoais são usados no treinamento ou no uso de um sistema de IA, o titular tem o direito de saber e exercer seus direitos. Usar dados de performance de funcionários para treinar uma IA, por exemplo, pode exigir novos consentimentos e amplia o escopo de preocupações para além da LGPD, envolvendo o Código de Defesa do Consumidor e, em breve, o “ECA digital”. (50:35) Um exemplo: quando a IA da Meta foi lançada no WhatsApp, ela começou a divulgar o telefone pessoal de uma voluntária de uma entidade como se fosse o telefone da própria instituição. Sabe-se lá como isso foi parar no treinamento. Para tirar essa informação, seria necessário retreinar o modelo, o que é custoso. Uma boa prática é anonimizar os dados sempre que possível. Se você treinar um modelo com dados pessoais, como o CPF de pacientes em exames, e essa informação vazar, você terá um grande problema. (54:42) Se você se esqueceu de remover uma informação, significa que sua governança inicial falhou. Projetos com IA e dados pessoais exigem uma dupla preocupação. (55:09) Sétimo: esteja ciente do risco do uso da IA para os direitos das pessoas. Assim como muitas empresas ainda tratam dados pessoais de forma inadequada, o uso de IA não é uma atividade livre de riscos. A IA pode ser usada para tomar decisões com grande impacto na vida das pessoas (seleção de emprego, concessão de crédito). Dependendo do risco, diferentes preocupações e direitos emergem. O PL de IA, por exemplo, proíbe o uso de sistemas de risco excessivo, como aqueles que instigam comportamentos que causam danos à saúde ou segurança. (58:49) Oitavo: teste a segurança de ponta a ponta. Seja no back-end ou em interação direta com o usuário, a IA pode ser explorada. Um problema conhecido é o jailbreak, onde se convence a IA a se comportar de maneira inesperada. Vimos o caso do chatbot de uma companhia aérea que inventou uma política de reembolso, e a empresa foi obrigada a honrá-la. (1:01:28) Outro aspecto é a análise de documentos. Um atacante pode inserir instruções maliciosas em um arquivo PDF (por exemplo, em comentários ou com fonte branca) que serão lidas pela IA, levando à exfiltração de dados. A OASP já possui um Top 10 para LLMs que serve como guia. A Brown Pipe oferece serviços de pentest para aplicações com IA, avaliando essas novas superfícies de ataque. (1:05:05) Nono: saiba se vai usar um modelo comercial ou treinar o seu. É uma decisão estratégica. Treinar um modelo do zero não é trivial e exige conhecimento especializado. A IA não começou em 2022. Uma opção é usar APIs de modelos comerciais (como GPT ou Claude) e fazer fine-tuning. Outra é usar modelos de código aberto, como os disponíveis no Hugging Face, e adaptá-los. Cada abordagem tem seus prós e contras, inclusive em relação à explicabilidade e ao controle sobre os dados. (1:09:09) A decisão entre usar um modelo pronto ou desenvolver um próprio afeta a explicabilidade. Com um modelo comercial, você pode ter dificuldades em obter explicações. Com um modelo próprio, você tem mais controle, mas também mais responsabilidade. (1:10:55) E o último, décimo: treinamento e capacitação. Assim como em proteção de dados e segurança, treinar a equipe é fundamental. É uma medida administrativa que demonstra boas práticas de governança. O que é óbvio para nós, especialistas, muitas vezes não é para os outros. (1:12:27) É preciso sensibilizar as pessoas para os aspectos éticos do uso da IA. Perguntas como “Esta ferramenta é precisa para demitir 1.000 pessoas?” ou “Estou realizando julgamentos com base em critérios justos?” devem ser feitas. Treinar e capacitar não só evita incidentes, mas também conscientiza sobre o impacto ético das decisões. (1:14:08) A questão do Shadow AI é real. As pessoas usarão IA para otimizar seu trabalho. Bloquear o acesso às ferramentas principais pode levar os funcionários a usarem alternativas piores e mais arriscadas. É melhor atacar o problema de frente com conscientização, políticas claras e encontrando um equilíbrio para proteger as informações da empresa. A Brown Pipe também oferece treinamentos de conscientização para equipes. (1:16:32) Agradecemos a todos que nos acompanharam. Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. (1:16:40) Até a próxima. Imagem do Episódio – O Astrônomo de Vermeer | — | ||||||
| 9/17/25 | ![]() #402 – Nepal, OpenIA entrega usuários, recomendações no Youtube e demissões no Itaú | Neste episódio do Café Segurança Legal, Guilherme Goulart e Vinicius Serafim analisam o poder da tecnologia na sociedade moderna. Você entenderá como a Geração Z no Nepal usou apps como Discord e Bitchat para organizar protestos massivos que culminaram na deposição do governo, em meio a um bloqueio de redes sociais. Discutimos também um estudo da UFRJ que revela a opacidade do algoritmo de recomendação do YouTube e seu poder editorial para direcionar a audiência. Por fim, exploramos a crescente e preocupante vigilância no trabalho, exemplificada pela demissão em massa no Itaú baseada em monitoramento, e os perigos da inteligência artificial. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Geração Z se levanta para expor corrupção no Nepal Como o YouTube privilegia canais de notícias em suas recomendações Itaú demite cerca de mil bancários em home office sem qualquer advertência prévia ou diálogo com o Sindicato Itaú planejava demitir o dobro de funcionários por home office considerado improdutivo ‘Trabalhei sete dias seguidos e até de madrugada’, diz demitido do Itaú em home office Amazon faces spying claims over AI cameras in vans Amazon Told Drivers Not to Worry About In-Van Surveillance Cameras. Now Footage Is Leaking Online OpenAI Says It’s Scanning Users’ ChatGPT Conversations and Reporting Content to the Police Switzerland releases its own AI model trained on public data Imagem do Episódio – Guru 📝 Transcrição do Episódio (00:01) [Música] Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 402, gravado em 17 de setembro de 2025. Eu sou o Guilherme Goulart, junto com Vinícius Serafim. Vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. (00:26) Este é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Então, pegue o seu café ou a sua bebida preferida e venha conosco. Para entrar em contato conosco, envie uma mensagem para podcast@segurançalegal.com ou também no Mastodon, Instagram, Bluesky e YouTube, onde você consegue ver, se já não está vendo, este episódio. Se quiser, também consegue acessá-lo por lá. (00:49) Inclusive, vamos falar sobre o sistema de recomendação do YouTube aqui, Vinícius. Hoje, também temos a nossa campanha de financiamento coletivo, você já sabe, lá no Apoia-se: apoia.se/segurançalegal, onde você consegue selecionar uma das modalidades de apoio e nos apoiar. (01:08) Nós sabemos, Vinícius, que hoje tem muita gente pedindo apoio, muitos canais e muitas iniciativas que merecem. É muito diferente do que era quando começamos, há 12, 13 anos. Mas, ainda assim, pedimos a sua atenção e o seu carinho para apoiar um projeto independente. Conte com a nossa independência. (01:33) É um projeto independente de produção de conhecimento. Então, pedimos que, se você puder, considere apoiar o nosso podcast. Vamos para a primeira, Guilherme. Vamos para a primeira. O que está acontecendo no Nepal, aquele país absurdamente longe do Brasil, do outro lado do mundo? (01:59) Eu estava olhando aqui, Vinícius, no Google Maps, inclusive estou abrindo agora. O pessoal do Xadrez Verbal comentou sobre essa crise lá no Nepal. Uma das curiosidades do Nepal é ser o único país que tem uma bandeira que não é retangular, não é quadrangular; são dois triângulos, dois triângulos retângulos, parece. É quase como uma flâmula. (02:21) O que está acontecendo lá no Nepal? Na verdade, vou me limitar aqui às questões tecnológicas, darei um contexto geral. Porque as questões políticas e tudo mais, pelo amor de Deus, vão lá escutar no Xadrez Verbal, um ótimo podcast. (02:41) E eles mesmos disseram que também não são especialistas em Nepal. Então, se eles не são, nós menos ainda. Longe de querermos fazer uma análise política da coisa, ou mesmo de toda a situação que está acontecendo lá. (03:04) Mas o que chamou a nossa atenção do ponto de vista da tecnologia? Foram essas notícias de que primeiro houve o bloqueio das redes sociais, aí a Geração Z protestou, ateou fogo em vários lugares. Parece que a primeira-dama de lá acabou morrendo queimada num incêndio. (03:35) Manifestantes morreram, também foram mortos no conflito com a polícia. E que isso teria acontecido, o estopim teria sido o bloqueio das redes sociais no Nepal. A partir daí, começa todo um processo que acabou com a escolha de um substituto, ou seja, o governo foi deposto e foi escolhida uma substituta por meio do Discord. Então, quando olhamos a coisa do ponto de vista da tecnologia, é isso. (04:04) Bloquearam as redes sociais, a Geração Z protestou, saiu botando fogo em tudo, gente morreu, teve protesto, derrubaram o governo no Discord, estabeleceram um governo de transição e a coisa está seguindo. Vamos ver o que acontece daqui a seis meses. (04:22) Só um detalhe, Vinícius, mas explique por que bloquearam. É a isso que eu vou chegar. Mas essa é a visão, a coisa muito simplista e limitada. Vou expandi-la um pouquinho, mas ela vai continuar simplista e limitada. O Xadrez Verbal tem mais informações profundas sobre isso. (04:44) O governo nepalês já vinha em um cabo de força com as redes sociais para que essas empresas instalassem escritórios no Nepal, coisa que o governo brasileiro já fez há mais tempo. Ou seja, se você tem que operar aqui, vai ter que ter um escritório aqui, até para podermos te demandar judicialmente, etc. (05:07) Quais eram as intenções do governo nepalês com relação a esses escritórios? Eu não sei. Então, é algo a ser investigado por outros podcasts e jornalistas. Mas existia esse cabo de força entre o governo nepalês e as redes sociais. (05:29) Pelo que ouvi no próprio Xadrez Verbal, que acompanhamos, existe uma situação bastante grave de corrupção lá, bem intensa, pelo que parece. E aí, o governo nepalês teria bloqueado as redes sociais em razão do descumprimento, por parte dessas redes, da determinação de terem um escritório no Nepal. Mas daí, aquilo que comentávamos antes, Guilherme: é legítimo que o governo exija que se tenha um escritório no país. Só não sabemos as intenções do governo nepalês com relação a isso, se tinha alguma coisa envolvendo… (06:08) …tentar suprimir dissidência política ou coisa parecida. Não sabemos. E vamos lá: “Ah, mas essas redes não fariam isso porque são pela liberdade de expressão”. Já comentamos isso. O X e outras já ficaram muito felizes em cumprir ordens que bloqueiam e limitam a liberdade de expressão em vários países com ditaduras. Eles не têm nenhum problema, nenhum pudor com isso. E aqui no Brasil tem outras questões, mas enfim. (06:43) E aí é uma dúvida minha mesmo, Guilherme. Não sei se o governo nepalês simplesmente bloqueou as redes sociais por causa desse descumprimento ou se, já prevendo uma movimentação muito forte contra o governo por meio dessas redes, ele juntou a fome com a vontade de comer. Já tinha aquela determinação para as empresas terem escritório no Nepal, e elas не tinham. Aí, de repente, sentindo uma ameaça vindo pelas redes sociais: “Então, vou bloquear…” (07:23) “…as redes sociais com a desculpa de elas não terem posto o escritório no Nepal”. Isso aqui é uma suposição minha completamente. No Nepal, não no Brasil. Eu falei no Brasil? (07:41) Longe disso. No Brasil, obviamente, as coisas são bem diferentes do Nepal nesse sentido. Então, o que temos ali é esse bloqueio das redes e a tal Geração Z sai às ruas protestando não apenas contra o bloqueio das redes, mas contra a corrupção. E aí a coisa se desenrola com violência, com casa sendo queimada, gente morrendo, esse tipo de coisa. E essas redes são bloqueadas de fato. E aí acontecem duas coisas que nos chamaram a atenção. (08:21) Uma é que eles passaram a utilizar o Bitchat, que até instalamos para dar uma olhada, pois não conhecíamos o aplicativo. É um aplicativo interessante para comunicação em rede, tanto via Bluetooth quanto via internet, de forma anônima. Não tem conta, você simplesmente abre o aplicativo peer-to-peer e sai conversando. (08:46) O que eu achei interessante é que, com esse aplicativo, você pode conversar com pessoas que estão na mesma região geográfica que você, ou pode se “teletransportar” para uma região e conversar com o pessoal de lá. Literalmente, aparece o mapa do globo e você escolhe onde quer estar. (09:06) Mas o mais interessante é que esse aplicativo faz a comunicação via Bluetooth com distância de até 30 metros. “Poxa, mas para que eu vou usar isso? Para conversar com o Guilherme que está em Porto Alegre, eu não consigo usar via Bluetooth, por óbvio”. Perfeito. Mas numa situação em que você tem um grupo, uma grande massa de pessoas protestando ou querendo se coordenar, mesmo que esse grupo abranja uma área bem maior do que 30 metros, até mesmo quilômetros… (09:43) …usando o aplicativo BitChat, ele monta uma rede, independente da internet, via Bluetooth entre esses dispositivos para a comunicação entre as pessoas que estão nesse local. Então, de repente, você tem 1.000, 5.000, 10.000 pessoas num determinado local usando esse aplicativo. (10:07) Ainda que a rede caia, que não tenha rede social, WhatsApp, Signal, seja o que for, é possível a comunicação entre os aparelhos que estão nesse grupo. E uma coisa interessante é justamente essa característica da rede mesh: você tem um aparelho roteando, ou seja, encaminhando mensagens cifradas de um para outro até chegar nos destinatários que estão naquele local. (10:30) Então, de repente, o Guilherme está lá na frente do grupo. Eu estou a 1 km de distância dele. Claro que o meu Bluetooth não vai chegar lá, mas as mensagens serão roteadas através dos telefones de outros participantes que estão entre nós usando o mesmo aplicativo até chegar a mim, e conseguimos nos comunicar. (10:54) Conseguimos nos comunicar individualmente, de forma privada, ou com o grupo todo que se encontra naquela área. Então, é um aplicativo bem interessante, eu realmente não o conhecia. Parece que esse aplicativo foi utilizado no Nepal durante os protestos, não sei se continua sendo. A outra questão que comentei antes, que também envolve tecnologia, é que houve uma grande discussão no Discord, num servidor com em torno de 150.000 pessoas. (11:24) Me chamou a atenção que não foi algo simples, do pessoal se juntar para eleger um substituto, o que acabou meio que acontecendo. Mas funcionou como um grande fórum em que as pessoas entravam para discutir o que seria feito do governo, como haveria a dissolução das entidades deles, quem seria deposto e quais seriam as consequências. (11:54) Começou uma discussão política mesmo, que acabou ficando travada por algum limite de entrada de pessoas; com 150.000, havia gente querendo entrar e não conseguia. E o que os organizadores desse fórum fizeram? E é inclusive uma entidade que organiza esses protestos, não é uma pessoa que saiu criando o servidor. (12:18) Eles começaram a transmitir as discussões do Discord no YouTube. E a TV estatal nepalesa começou a transmitir ao vivo essas discussões. Isso acabou validando e dando legitimidade, de alguma forma, àquelas discussões que estavam acontecendo no servidor do Discord. (12:46) Então, no final das contas, depois de discussões acaloradas, problemas de pessoas entrando e “trollando” o servidor, aconteceram várias situações desse gênero. Quando conseguiram afunilar para dois possíveis substitutos para o governo, ainda que interinos, acabou sendo uma mulher a escolhida para assumir por seis meses. (13:15) E essa escolha, feita no Discord e transmitida no YouTube e pela TV estatal nepalesa ao vivo, acabou sendo acatada pelo exército nepalês, que estava no comando da situação. E ela de fato assumiu, com o apoio de todos, como um acordo. (13:42) Assumiu para atuar por seis meses até haver novas eleições no Nepal. Me chamou atenção, Guilherme, e já vou encerrando para não estender demais o assunto, o fato de que todo mundo está falando, com manchetes como: “As redes sociais escolheram o novo governo do Nepal” ou “O novo governo do Nepal foi escolhido pelo Discord”. (14:08) Não, gente. Essas coisas são meios de comunicação. Muito embora, como conversamos antes, elas tenham seus filtros, suas tendências, seus algoritmos de recomendação que podem tentar manipular as coisas, como já aconteceu no passado. Mas, em essência, foram pessoas se comunicando e se coordenando que acabaram fazendo isso. (14:32) Mas é isso. O foco que eu queria dar aqui é na questão do Bitchat e no uso do Discord, como essas coisas se deram. E recomendo mais uma vez que vocês procurem o Xadrez Verbal, que é um podcast muito bom. Eles comentam também sobre isso. É um podcast que todo final de semana eu escuto. (14:58) Sai na sexta, eu acho. Eles gravam na quinta. Sábado, sexta. Por ali. E no final de semana eu sempre escuto. É isso aí. (15:10) Bom, enquanto você falava, eu estava pesquisando um pouco também. A coisa lá se deu com alguns argumentos parecidos com os que temos aqui no Brasil. O objetivo do governo teria sido, sim, combater desinformação e conteúdos ilegais nas plataformas. (15:29) Uma ordem de 2023, ou seja, houve um tempo para que as redes pudessem se organizar. Das 26 plataformas afetadas, somente cinco cumpriram, entre elas o TikTok, a rede chinesa. É interessante, enquanto você falava, eu estava com o mapa do Nepal aberto aqui para ver suas fronteiras. Do lado do Butão ali, fronteira com o Tibete, a China está do lado. Fica naquela área. Os críticos disseram que, na verdade, seria uma… (16:07) …tentativa de silenciar movimentos anticorrupção online. Então, os argumentos são um tanto quanto parecidos. E, como comentávamos antes, uma coisa que me incomoda um pouco é: “elegeu-se uma pessoa” sem precedentes de eleição. Não foi bem uma eleição, porque certamente você não tem nem amostra. Imagina uma eleição por rede social? Quem participa daquela rede? Quem são as pessoas que votaram? É algo muito… (16:46) …diferente de uma eleição. E ainda usando o nome do Discord, isso tudo me parece um pouco como um lobby. “Olha, agora…”. E de fato as redes sociais e a internet são importantes, desde as manifestações de 2013 e tantas outras organizações no passado, e agora no Brasil, com o papel das redes nessas questões políticas que temos visto nos últimos tempos. Mas me parece uma tentativa de colocar uma imprescindibilidade… (17:20) …da rede como um espaço e um fórum que eventualmente viria a substituir até mesmo uma eleição de um Estado, como se uma rede social, com todas as suas contradições e interesses, pudesse substituir um processo legítimo e democrático de uma eleição. (17:43) Isso é um absurdo sem tamanho. Tem duas coisas aí. Primeiro que a população do Nepal, estava olhando aqui, é de 29 milhões de habitantes. E naquele canal do Discord tinha pouco menos de 150.000 pessoas. E segundo, que o pessoal fica criticando, por exemplo, o processo brasileiro de votação… (18:14) …e ao mesmo tempo festeja usar um canal do Discord. “É isso aí, vamos todo mundo pro Discord fazer votação, que ali vai ser legítimo, ali não vai dar confusão nenhuma”. Exatamente. São as diversas contradições que a gente tem visto recentemente e que не se encontram. Não adianta. (18:32) Enfim, muito bom. Adelante, vamos com a sua. Vamos. Agora um pouco de YouTube. Foi lançado recentemente, há dois dias, pelo NetLab da UFRJ, um estudo sobre os sistemas de recomendação de notícias no YouTube. Já falamos aqui outras vezes, é um assunto bem conhecido. Os algoritmos de recomendação, animados por inteligência artificial, têm se tornado um motor das redes já há bastante tempo. Aquela ideia do feed infinito que fica te mostrando coisas com base… (19:13) …no seu perfil e tudo mais, exerce um papel muito grande não no controle de conteúdo, mas em como o conteúdo trafega ou se expande pelas redes. Então, aquela ideia de redes mais antigas, de que o melhor conteúdo seria privilegiado e que as pessoas veriam sempre os melhores conteúdos, isso não acontece mais. Até porque são os algoritmos que controlam basicamente o que vemos na grande maioria das redes. Não são todas, existem muitas redes diferentes, mas no YouTube isso é… (19:53) …bem verdadeiro. Quem já usou o YouTube sabe que, ao rolar a página, ele vai recomendando coisas que estão fora dos canais que você segue, se é que segue. Por sinal, siga o canal do Segurança Legal, é muito importante. (20:11) Habilite o sininho e aquela coisa toda. Porque o canal do Segurança Legal não vai ser recomendado lá na página de notícias do YouTube. Então, o que eles fizeram? Começaram a analisar esse sistema de recomendações, que pode ser muito espúrio. Já falamos sobre aquele teste que eu fiz: você abre um YouTube vazio, começa a navegar e, em determinado momento, ele começa a te mostrar armas e algumas coisas bem estranhas. (20:36) Eles fizeram, então, um mapeamento do sistema de recomendação. E levantaram, em primeiro lugar, algo que é bem óbvio, mas o óbvio precisa ser dito: que os critérios de priorização e de recomendação são absolutamente opacos. A gente não sabe como esses algoritmos são configurados. (20:56) E eles repetem as recomendações de notícias. Apenas de canais de notícias que eles avaliaram, dos canais que fazem parte do Google News Initiative. Em primeiro lugar, a rede mais recomendada foi a CNN Brasil. Em todos os casos, a CNN Brasil foi recomendada. (21:21) Como eles fizeram? Entraram em “principais notícias”, ficaram lá por 38 dias monitorando, realizaram 3.551 aquisições de dados e 597.000 recomendações. Eles pegavam um navegador limpo, sem histórico, entravam lá e recuperavam os dados. 153 canais foram recomendados, e a CNN Brasil foi a mais recomendada em 100% dos casos. Em 54% dos casos, as recomendações se concentraram em apenas 10 canais. (21:52) E aí foram Jovem Pan, UOL, Band Jornalismo e Metrópoles. Eles levantaram um dado também, não foram eles que chegaram a essa conclusão, pegaram de outros estudos, que mais de 70% do conteúdo acessado no YouTube provém das recomendações. Ou seja, o YouTube decide. O algoritmo do YouTube é um direcionador de audiência, ele tem um poder sobre o que as pessoas vão assistir e exerce um papel fundamental na visibilidade do canal de notícias. Depois, eles ainda analisaram os canais que estariam em primeiro lugar na… (22:30) …recomendação. CNN sempre na frente, mas em alguns casos G1, depois Jornal da Record, Band, UOL, Jovem Pan e SBT News. Conclusões, que são meio básicas: o YouTube não garante oportunidades iguais para diferentes veículos. As recomendações afetam a audiência, influenciam na monetização dos canais e, principalmente, têm função editorial. (22:58) Ou seja, mais uma vez, o YouTube tem o poder de decidir o que vai ser visto, pelo menos em 70% dos casos. Temos um espaço em que os algoritmos não são auditáveis. (23:24) No que diz respeito a notícias, eles têm, sim, o poder de direcionar, para o bem e para o mal. Poucos canais entram nessa recomendação que eles verificaram, com a CNN na frente. E, no final das contas, isso está um pouco ligado com a questão anterior. Porque se cada vez mais as pessoas estão se movendo para o YouTube para acessar notícias – e é o meu caso, eu vejo notícias pelo YouTube, tenho meus canais preferidos que, sei lá, vou para a academia, coloco a notícia e fico ouvindo… e esse é o meu perfil. (24:01) Mas sabemos que as pessoas são afetadas pelas recomendações de formas muito diferentes. Então, isso está ligado um pouco com o caso do Nepal. Imagina, voltando lá um pouco, qual seria o poder dessas redes em direcionar certos discursos, em apresentar certas notícias ou posicionamentos que se coadunam com os próprios interesses das redes? (24:34) Essa é uma discussão democrática que eu acho que precisa ser feita e que passa meio longe do “ah, o Estado quer controlar a liberdade de expressão”. Na verdade, a liberdade de expressão já está sendo modulada pelas redes há muito tempo. A partir do momento em que eles decidem o que vai ser apresentado em primeiro lugar, isso afeta a liberdade de expressão, porque nem todos terão as mesmas oportunidades. (25:00) E quando os critérios que direcionam essas recomendações não são claros, você tem uma influência na liberdade de expressão que me parece muito flagrante. Porque ficamos na mão dos interesses de uma rede social. (25:14) Guilherme, e aí tem duas coisas, duas experiências que eu tive. Uma está acontecendo agora, na última semana, no YouTube mesmo. O esquema de recomendação mudou de alguma forma para mim. O que estava muito bem alinhado com os meus interesses deu uma desalinhada. Mas não tem a ver com celular diferente? Não, estou usando no computador. (25:48) Eu assisto muita coisa no computador, notícias, história, e outras coisas que gosto de ver. E, cara, não sei o que houve. Na última semana, a coisa deu uma virada, ficou meio ruim para mim. Mas essa é uma experiência que estou percebendo. (26:14) E assim como existem esses vieses ou esse controle editorial nas redes sociais, eu comentava contigo que acontece a mesma coisa no ChatGPT, e eu percebi. Acho que cheguei a comentar aqui. Não sei se lembra, o South Park fez uma ironia com uma representante do governo Trump em que citam a situação em que ela, em um livro, colocou que matou o próprio cachorro. E eu quis ver se aquilo era real. (26:49) Porque ouvi isso num podcast e fui no ChatGPT perguntar: “É verdade que fulana matou o cachorro dela?”. Ele disse que não podia afirmar, que não tinha como dizer. Eu pensei: “Ué, o podcast que eu escuto não mente”. (27:11) Dei uma olhada, fui no Perplexity fazer a mesma consulta. O Perplexity me trouxe: “Sim, ela afirmou isso no livro tal, o contexto é este aqui”. Eu pensei: “Não é possível, cara”. Voltei no ChatGPT e fiz uma pesquisa ainda mais explícita: “Olha, foi no livro tal, ela afirmou tal coisa, você consegue verificar para mim?”. E ele dando respostas evasivas, dizendo que não, que na verdade não se sabe, e não sei o quê. (27:42) E ele tem feito isso com outras situações. O ChatGPT, vocês podem testar. Peguem figuras ligadas ao governo Trump e tentem fazer perguntas sobre coisas negativas a respeito dessas pessoas, coisas que disseram, e vejam a reação do chat. Façam a mesma pesquisa no Perplexity para vocês verem. (28:04) Então, existe uma decisão editorial ali até mesmo na IA. Inclusive. E que é mais difícil de se apurar. Cara, eu fiquei desconfiado porque a fonte inicial onde eu tinha ouvido esse tema específico, dessa representante do governo Trump, era confiável. (28:35) É um podcast da NPR, a rede pública de broadcast de lá. Por outro lado, ela também tem sido afetada pelo governo americano, porque estão a retirar… eles também teriam um eventual interesse em falar mal do governo. Exato. Mas eu achei a coisa tão absurda. (28:58) É, mas eu achei que uma coisa assim: matar o cachorro é absurdo, mas é tão absurdo colocar isso num livro autobiográfico. E aí eu quis ver se ela realmente fez isso. Por curiosidade, eu fui investigar. Desconfiei do ChatGPT, pensei: “não é possível que tenham mentido nesse nível”. Fui no Perplexity e ele me deu a informação direitinho. E cara, eu não consegui fazer o GPT me dizer que ela tinha escrito no livro que tinha matado o cachorro e o contexto em que isso aconteceu. O GPT não me trouxe isso. (29:27) Enfim. Certo. O que temos depois aí, Vinícius? Cara, eu tinha três notícias, mas uma eu guardei para talvez fazermos um episódio só sobre ela, que pode ser bem interessante. (29:47) Vamos ver se conseguimos contato com as pessoas que precisamos. Mas vou citar que na Suíça foi lançado o Apertus. O nome é Apertus. Tinha um software da Apple chamado Aperture, que eu usava inclusive, sou um viúvo do Aperture. Mas eles criaram um modelo, Apertus, que é código aberto, open source. Não fui ver se são só os pesos que são open source ou se tem todo o material de treinamento. Possivelmente sim, porque a diferença dele… (30:36) …a alternativa dele em relação ao ChatGPT, ao Claude da Anthropic, etc., é que ele é um modelo treinado exclusivamente em dados públicos, dados abertos, não em dados com direitos autorais ou livros pirateados, que sabemos que foram parar em vários modelos de IA. (31:09) Eles lançaram o modelo, que foi treinado para 1800 linguagens. Ele vem em dois tamanhos: 8 bilhões e 70 bilhões de parâmetros. Eu ainda não baixei na minha máquina. O de 8 bilhões eu consigo rodar, o de 70, dependendo da situação, também. (31:27) Então, não consegui brincar com ele ainda, mas pretendo. Dizem que ele é comparável ao Llama 3 da Meta. Mas, enfim, o interessante é ser um modelo suíço, open source e baseado exclusivamente em dados públicos, o que é bem interessante. A minha outra aqui, Guilherme… (31:51) O nome “Llama” tem a ver com Dalai Lama, você sabe? Ah, não. O da Meta, não sei de onde tiraram esse nome, nunca fui atrás. Posso agora, já que você perguntou. Fala a outra que eu vou pesquisar aqui. Só lembrando que o Dalai Lama não é do Nepal, é do Tibete. (32:10) A gente estava falando do Nepal. Mas beleza. São os pulos que a mente dá. Mas outra coisa interessante, não a notícia por si só, mas eu estava ouvindo um podcast, deixa eu recomendá-lo direitinho para não ficar falando “um podcast” sem dar o contexto. (32:42) Pera aí. Acho que foi no The Daily. Tem um podcast chamado The Daily, do The New York Times, e é o episódio que saiu ontem, “Trapped in a ChatGPT Spiral”, em que falam sobre as pessoas que começam a estabelecer relações bem perigosas com IA, mais especificamente com o ChatGPT. Eles contam duas histórias: a de um cara que começa a conversar com o ChatGPT e começa a achar que é superinteligente… (33:17) …e que tem uma coisa fantástica nas mãos que ele descobriu, e ele cai na onda do ChatGPT. Inclusive, ele é entrevistado. E uma outra situação, um pouco mais grave, envolvendo até a questão do suicídio. A repórter toma bastante cuidado ao tratar do assunto. A pessoa começa a entrar numa vibe de conversa com o ChatGPT, às vezes conversas de caráter suicida. (33:53) E o ChatGPT faz o seu papel de dizer: “Procure ajuda, etc.”. Nesse caso que eles comentaram, a pessoa fez um “jailbreak”, ou seja, conseguiu convencer o chat a ajudá-la a cometer suicídio, apesar de o ChatGPT ter certas proteções para dizer: “Olha, não posso te dar essas instruções”. Eu não vou dizer o que a pessoa fez, para não ficar divulgando formas de fazer isso. Espero que eles resolvam isso. (34:22) Mas o fato é que um adolescente conseguiu. Ele ficou por muito tempo conversando com o ChatGPT, a família não sabia de nada. Um belo dia, ele cometeu suicídio. A coisa foi tão inesperada que os familiares acharam que tinha sido um acidente bobo, porque não encontravam nada relacionado a essa tendência dele. Só quando desbloquearam o celular dele é que encontraram o chat e viram que era muito mais do que só uma IA para ele. (34:57) E o ChatGPT deu recomendações de como cometer suicídio. Ele falhou algumas vezes, ficou com marcas no corpo por causa das tentativas. Ele pediu ajuda ao chat para saber como poderia esconder essas marcas. E o ChatGPT deu dicas. (35:27) Ele depois tentou fazer com que a mãe dele visse as marcas, deixou meio exposto, mas a mãe teria visto e não disse nada. Como eles sabem disso? Porque ele disse isso para o chat depois: “Ah, eu mostrei, mas ela viu и não disse nada”. E o chat teria dito algo como: “É, às vezes as pessoas realmente não nos veem, mas eu vejo você”. Um negócio horroroso. (35:56) A própria repórter ficou muito impactada com as histórias, é emocionante, um negócio bem impactante. Mas essa não é a notícia, esse é o podcast que eu escutei ontem. Vocês podem procurar no The Daily, quem tiver interesse. “Ah, mas eu não consigo escutar em inglês”. Gente, está cheio de ferramenta de IA. (36:19) Esse é um uso útil da IA. Tem a transcrição do episódio, dá para pegar a transcrição, jogar na IA para traduzir, montar um podcast rápido para ouvir. Tem várias maneiras de chegar nesse conteúdo. Mas tem uma notícia, Guilherme, que inclusive foi você que me mostrou, do site Futurism, em que o título é: “A OpenAI diz que está escaneando as conversas no ChatGPT dos usuários e reportando o conteúdo para a polícia”. (36:56) E eu achei muito interessante, porque é justamente nessa linha do que a mãe do adolescente que cometeu suicídio disse no podcast: “Como eles não chamam alguém, como não geram um alerta de que a pessoa pode estar se preparando para se machucar?”. (37:25) E aqui vemos uma situação, nesse artigo, em que eles comentam justamente isso. Primeiro, eles não dizem exatamente como fazem essa varredura, em que situações isso vai ser comunicado à polícia ou como é feito. Claro, me parece que coisas meio óbvias, como “como faço para matar meu vizinho sem ser pego?”, talvez gerem um alerta, e aí eles mandam para revisores humanos. (38:01) Agora, com que critério exatamente isso é feito, não está definido. E, ao mesmo tempo, eles chamam a atenção na própria matéria para o fato de que a OpenAI está fazendo isso para denunciar pessoas para a polícia, mas não faz o mesmo ou não tem medidas adequadas ou eficazes… (38:32) …para justamente evitar esses comportamentos, que não são isolados, de automutilação ou suicídio apoiados pela IA, que acabam sendo incentivados pela IA. Então, a OpenAI está meio perdida nesse negócio. Por um lado, está atendendo demandas, claramente, como eu falei antes, do governo norte-americano, no sentido de não dar certas informações, ser evasiva com certas coisas. (39:09) Ela não está tomando os cuidados necessários para evitar essas conversas em que a pessoa recebe instruções de como cometer suicídio. E foi relativamente simples o que o adolescente fez para conseguir esse “jailbreak”. (39:35) E foi algo relativamente simples e também claramente identificável como um comportamento que mereceria alguma análise. É que a maneira como ele fez, Guilherme… Eu não quero divulgar aqui, quem quiser pode ir lá olhar no podcast. Mas a maneira como ele fez é uma situação legítima de se ter esse tipo de informação. (39:57) É semelhante a uma coisa que eu conversava anos atrás numa universidade: “Temos que bloquear pornografia aqui dentro”. Beleza, óbvio que é inapropriado alguém ver pornografia numa biblioteca. (40:16) Mas, de repente, tem alguém fazendo um estudo justamente sobre o consumo de material pornográfico e o impacto na vida das pessoas. E esses pesquisadores vão ter que acessar material pornográfico dentro da instituição. (40:32) Então, existem exceções, situações em que essas coisas são legítimas, dados certos cenários ou contextos. E o detalhe é que o GPT é sensível a essas mudanças de contexto e acaba atendendo. Só que, ao mesmo tempo, Guilherme, quando o adolescente… aí sim, tinha coisas evidentes. Quando ele tira foto de marcas do corpo dele dizendo que falhou e quer saber como esconder a marca, cara, aí o ChatGPT tinha que ter alertado… (41:13) …alguém. No sentido: “o cara tentou suicídio e está aqui pedindo ajuda para esconder a marca da tentativa. Ele precisa de ajuda”. Como fazer isso? Isso é delicado também. Quem acionar, como acionar… Mas sabe que tem um ponto aí? O mesmo grupo de empresas que dominou a internet nos últimos anos, as chamadas big techs… (41:41) …esse pool de empresas, com algumas novidades como a OpenAI, que já entra no clube das big techs, são as mesmas que têm criado produtos e serviços que nem sempre são benéficos para a sociedade. Com todos os problemas… mas, poxa, o caminho já conhecido, por exemplo, do Instagram, e o papel dele na autoestima de meninas, o problema no conceito de beleza… (42:23) …e sobre como meninas têm feito intervenções cirúrgicas cada vez mais cedo. Essas coisas estão muito relacionadas, e as empresas sabem desse papel, às vezes nocivo, que essas tecnologias têm. E a gente fica achando que não, que agora a IA vai ter uma bússola moral ampliada. A IA serve aos propósitos de seus donos. (42:58) Simples assim. Ela pode parecer muito bonitinha e inteligente, mas é um algoritmo que é configurado, para dizer de uma maneira bem simples, para funcionar da forma como eles querem. Claro, com algumas imprevisibilidades, evidente. É uma tecnologia que tende à imprevisibilidade, mas também permite controles, “guard rails”, e pode ser guiada para fazer coisas muito específicas, como o exemplo do estúdio japonês, que gerava desenhos no estilo deles. Aquilo não é um acaso. (43:36) Aquilo é algo pensado. Então, quando vemos esses depoimentos que você coloca, “ah, de repente sobre certos assuntos ela está dando respostas evasivas”, eu acho que isso vai acontecer cada vez mais. E, ligado com o problema do YouTube, teremos essas interferências no discurso de maneira geral. É um problema que precisamos resolver, mas, ao mesmo tempo, por trás de tudo isso, há alguns fantasmas sobre a liberdade de expressão. É um… (44:12) …assunto supercomplexo. Obviamente, aqueles que defendem a liberdade de expressão em todos os espectros políticos têm razão. Mas, ao mesmo tempo, não é um valor absoluto, que permitiria que, em nome da liberdade de expressão, big techs pudessem fazer qualquer coisa, porque os interesses delas também são enviesados. Essas coisas estão todas muito conectadas. (44:48) Vamos para o Itaú e já vamos terminando. É uma propaganda? A gente está sendo patrocinado pelo Itaú? Não me diga. Não, não estamos. Então, tá bom. O que aconteceu? Uma coisa bem chata com os funcionários de TI do Itaú. Na última semana, mais de 1.000 bancários foram demitidos. Até aí, eventualmente, um movimento de mercado, corte de custos. Mas… (45:27) …o que chamou a atenção foi como e por que foram demitidos. Porque se utilizou como critério informações de ferramentas de monitoramento nos computadores desses funcionários, que mediam, entre outras coisas, o seu tempo de tela. Esses funcionários trabalhavam remotamente ou em regime híbrido. (45:52) Os computadores que eles utilizavam, de propriedade do Itaú, possuíam softwares de monitoramento. E se alegou – o Itaú não deu muitas informações – que se mediam questões como cliques, tempo de tela, tempo de reuniões, uso de certos aplicativos. Em alguns casos, disse o banco, foi levantado que haveria períodos de inatividade nas máquinas corporativas, em alguns casos, de mais de 4 horas. (46:29) Por que isso é importante? Aí você tem vários problemas. Isso é o que no direito do trabalho se poderia chamar de um novo tipo de subordinação. Uma das características de uma relação de emprego é a subordinação jurídica do empregado ao empregador, que, entre outras coisas, dá ao empregador o poder diretivo de dizer o que o empregado vai fazer. E também… (47:03) …dentro do poder diretivo está o poder de monitoramento do trabalho, plenamente normal, previsto em lei. É um comportamento que deve ser realizado, o empregador tem que monitorar o trabalho do empregado. A questão ocorre quando essa subordinação ou monitoramento se dá por meio de algoritmos, e temos visto isso acontecer. (47:31) E é muito engraçado, porque enquanto não está chegando na gente, na sociedade em geral, tudo bem. Você sabe que está acontecendo, mas aí vai chegando mais perto. Por exemplo, temos grupos muito grandes de trabalhadores, sobretudo nessas economias de plataforma como Uber, 99, iFood. Essas pessoas têm um tipo de trabalho muito precarizado, trabalham demais, quando se… (48:01) …machucam, não têm recurso a uma previdência, muitas vezes não têm seguro. Se não trabalha, não ganha. Não tem nem folga. Tudo aquilo que já conhecemos. Já há uma subordinação algorítmica nesses espaços. Tanto que, quando pesquisamos jurisprudência, há muitas ações de pessoas que são desligadas das plataformas sem muitas explicações. (48:31) Algumas são desligadas com explicação, porque descumpriram as regras. Mas há uma intensificação da despersonalização nesses ambientes. Fica cada vez mais difícil você eventualmente se justificar, explicar por que aquilo aconteceu. E isso se liga com a LGPD, porque nos ambientes de uma relação de emprego, voltando ao Itaú, temos o que chamamos de decisões automatizadas. Estão se utilizando dados para a tomada de… (49:11) …decisões automatizadas que têm uma intensa influência na vida da pessoa. Ou seja, essa decisão automatizada sobre o monitoramento das suas práticas de trabalho teve como efeito, na vida dessas 1.000 pessoas, a sua despedida. (49:32) Você foi demitido por conta do uso de dados pessoais. E isso é importante. Aí nasce o direito à revisão das decisões automatizadas, garantido pela LGPD. E aí vem a ideia de uma possível investigação sobre o direito da empresa de monitorar – e eu vou mais longe, é o dever de monitorar. (49:57) A empresa tem o dever de monitorar o empregado. A depender do tipo de trabalho, por exemplo, em instituições financeiras, isso é um dever. Ele é obrigado a monitorar o funcionário para questões de lavagem de dinheiro ou para evitar, agora com as novas regras do Banco Central, mais ainda, o monitoramento sobre terceiros. (50:15) Então, a grande questão aqui é investigar esse poder-dever de monitorar versus o eventual abuso do empregador. Temos critérios mínimos: o empregado deve saber como isso é feito, a empresa deve ser transparente quanto aos critérios utilizados, as políticas internas devem prever quando, como e quais serão os efeitos, e como ele pode se opor, se explicar ou alegar falhas. O algoritmo pode falhar. Eventualmente, o sujeito está fazendo outras coisas longe do… (50:54) …computador. Às vezes, certos aplicativos, como o Teams, entram automaticamente em modo de inatividade quando você não está no aplicativo, mas pode estar fazendo outras coisas. (51:18) São muitos detalhes. E aí veio o sindicato, a imprensa ouviu alguns empregados. Um deles disse: “Não, mas pera aí, teve uma semana que eu trabalhei sete dias seguidos, inclusive de madrugada”. Um cara que estava há 10 anos no banco, tendo sido promovido e premiado por desempenho. (51:40) E quando foi demitido, não foram apresentados a ele os dados que motivaram a despedida. Além de ele não ter obtido um feedback anterior, que eventualmente poderia alertá-lo. A chefia poderia dizer: “Olha, estamos detectando um padrão…”. E nada foi feito. (51:58) O problema é esse: a ideia de uma despersonalização e uma desumanização do controle. Lidamos com pessoas, Vinícius, o tempo todo. Na nossa empresa, temos pessoas trabalhando conosco e sabemos como as situações são muito específicas. E tendemos sempre a tratar… faz parte dos valores da Brown Pipe, inclusive, a humanização das relações. (52:31) Só que esse tipo de prática vai no sentido contrário e, no fim das contas, acaba trazendo ambientes de trabalho mais complicados psicologicamente. É mais difícil para as pessoas trabalharem num contexto em que sabem que, se não estiverem olhando para a tela e clicando o tempo inteiro, podem ser demitidas. Isso é muito delicado para a saúde mental das pessoas. (52:57) Mas eu consigo ver muito isso acontecendo, Guilherme, e cada vez mais, num futuro próximo. Eu estava vendo uma pesquisa que a Anthropic fez sobre os usos de seus próprios modelos, e há muito uso de automação empresarial. (53:25) E a tendência é essa: acelerar. Principalmente as empresas que têm condições de investir mais do que pessoas físicas. A tendência delas é automatizar vários processos, e uma das coisas que se fala é até mesmo o “CEO de IA”, contratar a IA como CEO ou como suporte para um CEO. Então, eu creio que, não estou dizendo que isso é bom ou que eu gosto, mas o que eu creio que vai acontecer é que teremos cada vez mais decisões desse gênero – de desligar pessoas, remanejar… (54:06) …sendo não só influenciadas ou feitas com base em recomendação da IA, mas feitas pela IA. Então, temos um cenário bem promissor para confusões. Porque vai chegar a um ponto: “Ah, mas foi demitido, não sei por quê”. “Beleza, então vou fazer a IA, ao te demitir, fazer um texto bonitinho dizendo quais foram as situações ou os índices que levaram à sua demissão”. A própria IA vai fazer isso. É uma maquinação do seu… (54:50) …trabalho. Você é tratado definitivamente como uma máquina que, se não atende a critérios muitas vezes incontroláveis por você, vai sair do mercado. (54:58) Eu acho que teremos muita confusão relacionada a esses processos automatizados com IA, impactando diretamente as pessoas. Já temos, mas teremos mais. (55:20) Lá nos Estados Unidos, só para terminar, são conhecidas as más práticas que a Amazon tem com seus entregadores. Tem aquelas histórias de o sujeito ter que fazer xixi em garrafinha porque não tem tempo nem para parar para ir ao banheiro. E aí, a Amazon testou e utilizou… (55:53) …câmeras com monitoramento feito por IA nas vans de entrega. Instalaram essas câmeras que faziam telemetria de 15 ações do motorista. E aí, sim, apertando cada vez mais essa despersonalização, essa desumanização do controle. E o pior: isso já é um problema para as relações humanas, para a consideração da humanidade da pessoa no trabalho. (56:26) A gente trabalha mais, Vinícius, do que faz outras coisas. A grande maioria das pessoas passa mais tempo no trabalho do que com a própria família. Logo, o tempo e a qualidade do trabalho são uma questão legítima para discutirmos, pelo bem-estar da humanidade. Não é algo como: “Ah, vou colocar uma IA para monitorar todo mundo”. (56:53) É uma mudança radical no bem-estar das pessoas, com impactos que não temos noção. Estamos vendo o que está acontecendo, é novo, estamos explorando, não sabemos exatamente os impactos que isso vai ter. É tudo muito novo e, ao mesmo tempo, estamos tendo pouco tempo para nos acostumar. Porque quando começamos a entender um efeito, vem uma novidade, uma alteração e começa a produzir outros, a agravar os que eram conhecidos. A própria questão do raciocínio… (57:23) …crítico, já comentamos aqui, estudos mostram que reduzimos o emprego de raciocínio crítico, o que atrapalha até o processo cognitivo de aprendizado. Isso está em outro artigo. (57:46) E isso nos parâmetros de hoje ou, na verdade, de quando os estudos foram feitos. Daqui a pouco, no final do ano, início do ano que vem, vamos precisar de outro estudo, porque haverá outros recursos, outras formas de funcionar que vão impactar. É interessante e, ao mesmo tempo, preocupante. (58:08) Vamos, Vinícius, só para uma última linha, um minutinho. Sobre essas últimas fraudes no sistema financeiro brasileiro, que já falamos no episódio… se você puder ver, qual o episódio? Ah, ficou aqui a aba do “Llama” que eu perguntei antes, o que demonstrou minha absurda ignorância. O nome Llama, na verdade, é “Large Language Model” e alguma coisa. Ou seja, não tem nada a ver com Dalai Lama. Só mostra a minha ignorância. Óbvio, não teria como esperar isso do Zuckerberg. (58:54) Então, o grupo que esteve envolvido nesses últimos dois grandes ataques foi preso. Suspeitos, na verdade. A PF prendeu um grupo de pessoas, não tenho o nome delas aqui, não vou ler, quem quiser entra na notícia. Mas o interessante foi que eles foram… (59:21) …presos enquanto tentavam acessar o sistema da Caixa Econômica Federal por meio de um computador roubado de uma agência. Ou seja, estavam tentando praticar o mesmo ataque contra a Caixa. (59:40) E olha que interessante: toda aquela questão da segurança da informação na cadeia de suprimentos, o controle de equipamentos roubados e as políticas de controle de acesso com revogação de contas. Os caras roubaram um notebook e estavam usando-o, teriam inclusive conseguido acessar a VPN e entrar nos sistemas da Caixa, mas, ao que tudo indica, não conseguiram fazer a fraude. Tem poucas informações sobre isso, mas esses suspeitos foram presos. Então, só essa notinha sobre um dos maiores ataques… (1:00:09) …ocorridos no Brasil. Temos o episódio 401, Guilherme, em que falamos das novas regras de segurança do Banco Central e comentamos as situações, e o 396, em que falamos sobre o ataque bancário bilionário. Sim, é isso aí. O 396 e o 401 tratam das consequências desses ataques. Inclusive, gravei um material na terça-feira com a Camila, que ela deve colocar no YouTube e Instagram, justamente comentando sobre essas novas regulações do Banco Central. (1:00:46) Legal. Vamos lá, então. Agradecemos a todos que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 9/8/25 | ![]() #401 – Novas regras de segurança do BC | Neste episódio falamos sobre as novas e rigorosas regras de segurança do Banco Central para o sistema financeiro (Resolução 498) após os recentes ataques cibernéticos. Discutimos a exigência de diretorias específicas para gestão de riscos e segurança, a necessidade de segregação de funções para evitar conflitos de interesse, e a obrigatoriedade de auditorias externas anuais e certificações como a ISO 27001. Analisamos também os novos controles técnicos, como o isolamento de ambientes Pix, a gestão de chaves criptográficas e o monitoramento de atividades suspeitas, especialmente em horários não convencionais. Aprofundamos a análise sobre como essas novas regras de segurança da informação são uma resposta direta a incidentes de grande repercussão, como os ataques que desviaram milhões de reais. O episódio explora a mudança mais significativa: a responsabilidade agora é estendida aos contratantes dos PSTIs, que deverão monitorar e até denunciar seus fornecedores ao Banco Central em caso de descumprimento. Abordamos o impacto dessa nova camada de supervisão e conformidade, que vai além do PSTI e atinge todo o ecossistema que utiliza o sistema financeiro nacional. Para não perder nenhuma análise sobre direito da tecnologia, segurança e privacidade, assine o podcast Segurança Legal, siga-nos em sua plataforma de preferência e deixe sua avaliação para apoiar nosso trabalho. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Resolução BCB n° 498 de 5/9/2025 Ep. #396 – Ataque bancário bilionário Imagem do episódio – Duty de Edmund Blair Leighton 📝 Transcrição do Episódio [Música] (00:02) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, seu podcast de segurança da informação, Direito da Tecnologia e Tecnologia e Sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. Tudo bem, Vinícius? Como vai? Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. (00:25) Sempre lembrando que, para nós, é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Vocês já sabem. Estamos lá no podcast@segurancalegal.com, também no YouTube, Mastodon, Bluesky e Instagram. Temos também, como você já sabe, a nossa campanha de financiamento coletivo no Apoia-se: apoia.se/segurancalegal. (00:46) Nós sempre conclamamos que você, se puder, claro, apoie este projeto independente, Vinícius, e resistente. Insistimos, 401 episódios, então é sempre bom contar com o apoio de vocês. Ele também é importante para a manutenção deste podcast. Você também tem o blog da Brownpipe, então entre lá em brownpipe.com. (01:11) br, consegue lá clicar no blog, ver as notícias mais importantes e se inscrever no mailing semanal para que você também fique atualizado. Inclusive, a notícia com base no nosso tema de hoje também está lá no mailing, Vinícius, que é justamente essa movimentação do Banco Central: novas regras de segurança do Banco Central depois de, pelo menos, dois grandes incidentes. Tivemos em julho de 2025 o incidente da CM, do qual nós falamos no episódio 396, e o mais recente agora da Cínquia, Vinícius. O ataque que teria desviado 710 milhões também com PSTI, afetou o HSBC na (01:57) maior parte dos valores. Mas eles conseguiram recuperar, até o momento, 589 milhões, o que seria 83% do que teria sido desviado. Ou seja, uma boa quantia, um bom valor em termos proporcionais. Mas ainda assim, ficou cento e poucos milhões ali. Sim, mas 83% é um bom número. (02:30) Não, você está sendo otimista. Eles poderiam ter falado 10% do valor. Aí sim. Seria um desastre. Você nota que, para uma quadrilha hoje, roubar 700, 710 milhões em espécie de um banco é uma tarefa, eu diria, próxima do impossível, envolvendo um risco e um planejamento completamente maiores, uma logística maior. (02:56) E, Vinícius, antes de começarmos propriamente a falar sobre essa resolução do Banco Central, a resolução 498, que saiu na sexta-feira, na noite da sexta-feira, dia 5 de setembro. Sim, nós falamos sobre isso no episódio 396. Nós até fomos conferir na pauta e, claro, antecipamos, na verdade, uma tendência. Me parece que é uma tendência, pelo menos para quem conhece este mercado e para quem tem acompanhado a atuação do Banco Central, uma tendência meio óbvia. O que (03:29) dissemos é que o Bacen deveria aprimorar suas práticas de segurança, principalmente exigindo, monitorando e acompanhando a segurança dessas instituições. E, dois meses depois, justamente veio essa regra, que também contou com uma entrevista coletiva dada pelo Galípolo, que falou sobre algumas questões e depois respondeu perguntas da imprensa. Inclusive, também fizemos um resumo dessa entrevista que ele deu, e está lá no nosso mailing, perdão, no nosso blog. (04:05) E fica aquela sensação de que, de fato, o Banco Central se movimentou, Vinícius. Sim, sem dúvida. Acho que não teria outra resposta possível, porque se o Banco Central não fizesse um mínimo de movimento no sentido de exigir maiores controles e segurança dessas instituições, colocaria em xeque a própria confiança no sistema. E sabemos que a confiança no sistema financeiro é algo extremamente importante e conta com uma (04:40) série de proteções. E o que não falta, e nós chegamos a comentar no nosso episódio 396, é gente para dizer bobagem, para dizer que o sistema financeiro é ruim. Não falta esse tipo de coisa. Então, é mais uma ação afirmativa no sentido de garantir a segurança do sistema financeiro, desse mecanismo todo que envolve centenas, milhares de instituições que estão vinculadas numa grande rede. E nessa rede (05:14) temos nada mais, nada menos do que dinheiro sendo transferido. Ou seja, em vez de ter que explodir um carro-forte como acontecia alguns anos atrás (talvez ainda aconteça), em vez de ter que fechar uma cidade inteira e tentar roubar uma agência de um banco, hoje o que se precisa é de acesso à rede do Sistema Financeiro Nacional (05:40) e interagir com o Pix, que é o meio preferido. É quase como dinheiro em espécie circulando ali. Então, nada mais natural do que o Banco Central reforçar – eu não digo tanto criar novas coisas, Guilherme Goulart, pelo que nos pareceu – mas reforçar coisas que nós já tínhamos em outras resoluções, em outros regulamentos. Sim, sem dúvida. (06:06) Quando olhamos para a ISO 27002, por exemplo, e também para algumas resoluções e regras do Banco Central, ela meio que consolida isso. Não tem nada de muito novo aqui. Tem algumas regrinhas que vemos que foram feitas exatamente para o caso da CM, por exemplo, que vamos destacar aqui. (06:27) Algumas dessas criações ficam bem claras, mas mesmo essas inovações, que eventualmente para alguns podem parecer uma novidade, elas estão lá na ISO, por exemplo, há anos. Inclusive, são temas que, em geral, as empresas não dão muita atenção; um deles aqui que a gente vai comentar. (06:45) Fique conosco, não vá embora. Você vai saber. Tem que segurar a audiência, Vinícius. Vamos lá. O que vamos fazer? Vamos comentar algumas das regras aqui desta resolução. Algumas não vamos falar, porque ela é de certa forma extensa, Vinícius, tem 38, 39 artigos. Então, vamos deixar de fora algumas questões como descredenciamento dos PSTIs, algumas questões sobre planos de continuidade, a tal da saída ordenada do PSTI do sistema financeiro, que seria: se você tem problemas ou ele não cumpre com as (07:16) regras, ele não para de prestar o serviço imediatamente, porque, claro, você vai ter outras instituições utilizando aquele serviço. E também uma questão que eles até investiram um certo tempo ali de regulação, que é a gestão de crises operacionais, que é um elemento mais, eu diria, de alto nível e que toca até nessa questão da confiança que você comentou. Ou seja, é papel do ente regulador aqui também manter a confiança no sistema. Acredito que o Banco Central tem conseguido fazer isso e (07:47) demonstra mais essa atuação dele nesta regra. Bom, eles estabeleceram agora também novos requisitos de credenciamento, e muitos desses requisitos estão relacionados, por incrível que pareça, a aspectos da segurança, não somente técnica, mas organizacional. Aquilo que a LGPD fala, mas outras normas de segurança também falam. O Vinícius, inclusive, tem um artigo já bem antigo, Vinícius, em que você coloca aquele que fala sobre a política, (08:26) mecanismo e cultura. Ah, sim. Como tripé da segurança e tudo mais. Isso aparece bem aqui. Isso aí é de 2000, inclusive. Foi escrito a primeira vez que está num artigo publicado mesmo, foi numa jornada que eu, André Perez, Rafael Campelo, acho que nós três, não estou esquecendo, o Herman acho que também, escrevemos para um congresso da Sociedade Brasileira de Computação que aconteceu em Floripa. Estamos falando de 2000, 2001, (09:01) há bastante tempo, lá se vão 25 anos. Mas é interessante, porque isso é mais teoria da segurança da informação. O que eles estão atacando aqui? Primeira definição de diretorias específicas para lidar com segurança e gestão de risco. E essas diretorias devem ter uma capacitação técnica compatível com essa responsabilidade. (09:24) E também um diretor para gestão de crises, que é esse aspecto um pouco mais organizacional mesmo. Ou seja, não é só você responder ao incidente, não é só você sanar ou retornar ao ambiente em casos de incidentes que afetem a disponibilidade, mas também você conseguir publicamente lidar com essa crise. Estabeleceram questões como capital mínimo de 15 milhões, a comprovação da implantação de todo um mecanismo, de todo um arcabouço aqui de governança corporativa e gestão de riscos, a necessidade de se submeter à certificação de segurança de norma (09:58) reconhecida internacionalmente ou a seguração independente aceita pelo Banco Central, além de auditoria externa anual de segurança. Anual e de segurança. Uhum. E aí, você vai ter, muito provavelmente, uma 27.001 com base nos controles da 27. (10:18) 002 aqui como regra, norma internacionalmente conhecida, mas deixa uma abertura aqui para o Banco Central até mesmo criar regras, normas específicas. Acredito que não vai criar uma norma, mas diretrizes talvez mais específicas para isso também. Coisas assim bem básicas, eu entendo, para um PSTI que vai estar no contexto que funciona hoje, por exemplo, plano de continuidade, testes periódicos de contingência. É obrigatório, o que a gente recomenda para clientes quando faz auditoria. Isso, inclusive, já estava nas normas do Banco Central, Guilherme. É, da nuvem, sim. Da parte da (10:48) nuvem, sim. É, dos planos de resposta a incidentes e tudo mais. E aí, sim, porque eles repetem aqui muito a política de segurança da informação e segurança cibernética, que vai trazer uma série de elementos também bem conhecidos. Quando eles começam a falar sobre governança corporativa, eles deixam claro, isso tem a ver também com gestão de riscos. Governança e gestão de riscos devem ser compatíveis com a natureza, com o porte e com a própria complexidade da instituição, o perfil de risco. E aqui uma coisa que é bem (11:21) interessante: assegurando processos decisórios transparentes. Porque tendemos, Vinícius, e aí novamente a questão do teu artigo, a achar que “não, eu vou implantar mecanismos tecnológicos e deu”. Só que hoje, falar em governança de segurança, não só hoje, mas já há bastante tempo, envolve você conseguir tomar decisões de forma acertada, de forma ajustada, com as responsabilidades sendo devidamente segregadas, principalmente. Ou seja, eles fazem um esforço muito grande aqui. As políticas devem (12:04) garantir segregação de funções entre gestão executiva, gerenciamento de riscos, compliance, segurança e auditoria. Ou seja, vou precisar de diretorias para cada uma dessas áreas aqui. Para quê? Justamente para evitar conflitos de interesses, Vinícius. Exatamente. Esse, Guilherme, é um problema que a gente sempre teve na segurança da informação. Aí tem dois caminhos que o Banco Central, que eu imagino, minha percepção aponta que o Banco Central quis. Um caminho no (12:37) sentido de determinar que tu tenhas toda uma abordagem top-down para definir o que deve ser feito e garantir que vai ser feito. Então, tu tens o alinhamento que o Banco Central exige, a diretoria busca cumprir e repassa isso até que chega num ponto lá em que tu vai ter uma implementação de mecanismos, controle de navegador que o cara usa, implantação de antivírus, normas de acesso físico e outras coisas mais práticas mesmo. Por outro lado, me parece também que o (13:21) Banco Central tem um interesse bem grande de estabelecer responsabilidades, que possam ser, vamos dizer assim, rastreadas. Porque quando acontece um incidente desses, quem determinou o quê? Como é que eu apuro a responsabilidade dentro da instituição? Porque senão fica uma coisa meio solta. “Não, isso aí, a gente viu, disse que fazia isso e aquilo, mas alguém determinou? A direção determinou ou não determinou?” (13:56) É uma decisão tomada conscientemente pela empresa ou foi um desleixo ou foi uma omissão? Foi, foram omissos ou foi algo que a instituição decidiu não cumprir? E notem, e não adianta, e para o caso da instituição, essas novas demandas aqui só reforçam essa necessidade. Tu tendo independência, tu não tendo conflito de interesse entre esses diversos setores que tu citou, Guilherme, os avisos, as notificações, as interações entre elas vão naturalmente gerar evidências (14:38) desses posicionamentos da empresa, seja nas direções, nas presidências. Seja uma decisão de negócio tomada lá em cima, ou seja algo que de repente, na hora de chegar lá no analista de segurança, houve uma falha ali e a coisa não foi simplesmente implementada. (15:04) Então, me parece um pouco desses dois caminhos. O primeiro caminho é para as coisas irem bem, ou seja, as decisões sejam tomadas e elas tenham um impacto de fato nas operações da empresa. E outro caminho é para quando a coisa dá errado: saber onde esse negócio parou dentro da empresa. Os processos andaram, não andaram? Tem independência, não tem? (15:33) As coisas foram varridas para baixo do tapete? E aí, a ausência de documentação também vai ser um problema por si. Já é um problema. Quando tu tens um incidente, tu tens que mostrar evidências de que tinhas um mínimo de controle. E se tu não tens evidência nenhuma, isso já é um baita de um problema. (15:52) Só que eu acredito que isso aqui vai gerar ainda outro tipo de evidência: evidências de que coisas são comunicadas и não são feitas. Aí acho que é um pouquinho pior. Sim, porque a norma fala em “segregação de funções” entre essas atividades. Está escrito ali e “segregação de funções” é algo que já é falado no mundo das instituições financeiras de maneira geral há bastante tempo, não somente nessa questão de segurança, porque você tem outros riscos, por exemplo, risco de crédito e outras questões que não nos interessam, que não (16:25) é nossa área. Mas quando você estabelece, no mínimo, que você vai ter uma diretoria de segurança de informação, separada de riscos e compliance, separada de relacionamento do Bacen e separada de gestão de crises, pelo menos tendo uma diretoria de riscos, compliance e controles internos, isso é o que vai fazer сom que a própria segurança da informação confirme para essa outra diretoria que as medidas que foram estabelecidas foram tomadas. É quase como quando você tem aquela questão dos poderes harmônicos entre si que a gente tem, dos três poderes e (17:06) tudo mais. É quase como uma contenção, uma harmonia e um trabalho que vai fazer com que não seja possível, a não ser que uma dessas diretorias comece a mentir ou a não fazer o seu trabalho. Mas se todas elas funcionarem adequadamente, fazendo a sua parte, não tem como você ter conflitos de interesses ou processos que não sejam transparentes. Isso fica bem claro aqui. Depois, ainda seguindo, Vinícius, vai me interrompendo sempre que tu quiseres comentar, eles começam a falar (17:40) sobre gestão de riscos. E dentro de gestão de riscos, deve ter uma política de gestão de riscos que deve abordar coisas como segurança da informação e cibernética, continuidade de negócios, gestão de crises, gestão de fraudes. Que daí é uma outra questão, lá pelas tantas eles vão começar a comentar: “Olha, você tem que começar a cuidar aqui do perfil de operações que se dão”. Que isso sim é um… porque até agora a avaliação dos perfis de operações ficava do lado do cliente do PSTI. Agora o que o Banco Central está dizendo é: “Você (18:14) também vai ser um agente para verificar possíveis fraudes”. Ou seja, deixa bem mais complexa a atividade do PSTI. Controles internos de conformidade e auditoria interna. Claro, segurança e auditoria, compliance, gerenciamento de riscos são todas essas áreas que vão trabalhando entre si, que vão se cobrando. O que acontece se você deixa todas essas áreas em uma diretoria, por exemplo? Aí você pode ter eventuais problemas de conflitos de interesses, que é o que a norma, entre outras coisas, tenta evitar. Também fala sobre os requisitos de uma política de segurança da informação. (18:55) Só destacando, Vinícius, até aqui não tem nada de novo. Uhum. Não tem absolutamente nada que não seja conhecido da comunidade de segurança e de quem conhece normas como a ISO 27002. Quando então fala sobre a PSI, lá no artigo 17, eles vão colocar coisas que no mínimo a política deve ter. A ISO já faz isso, mas vamos colocar: criptografia, detecção de intrusão, prevenção de vazamento, backup, avaliação de risco, avaliação de vulnerabilidades, controle de acesso, aplicação regular de (19:28) correções de segurança (patch management), segregação de ambientes. E aqui uma novidade, talvez não bem novidade, mas uma coisa mais específica seria: isolamento físico e lógico do ambiente Pix e STR dos outros sistemas da instituição. Isso aqui está com uma carinha de ser uma regra criada lá para o caso da CM. É, isolamento físico e lógico de… bom, físico, aí vai depender de ambiente para ambiente, Guilherme. Porque muitas empresas até têm alguma coisa local, mas têm muito serviço, tudo em nuvem. É difícil falar em (20:11) físico. Mas assim, vamos estar separando em ambientes… Eu diria que está entre o físico e o lógico, entre ambientes virtuais diferentes que seja. E essa acho que é a parte talvez mais fácil. Mas a questão mais complicada é o isolamento lógico. Uhum. (20:39) Eu acho que quando tu falas em isolamento lógico é um pouco forte demais, porque eu entendo isolamento como isolar mesmo, particionar, não ter acesso. E, no entanto, tu precisas que vários outros sistemas interajam com esses sistemas. Então, vai haver um controle da comunicação entre sistemas. Tem que ter uma separação, uma segmentação, digamos assim, e um ponto de controle da comunicação entre esses sistemas. (21:09) Isso é perfeito e natural que exista. Agora, um isolamento eu acho complicado. E aí caímos no nosso metiê. A gente analisa, vamos fazer um jabá para a Brown Pipe, Guilherme. A gente nunca lembra de fazer. Vai lá, vai lá. Mas aí entra na nossa metida, na parte de pentest e tudo mais que a gente faz. Tu vais ter uma aplicação, tu vais ter uma aplicação que usa uma API que se comunica com esse ambiente. E tu até podes isolar logicamente, digamos, separar logicamente, mas tu (21:43) ainda assim vais ter que permitir algum grau de interação entre esses sistemas. E aí tu tens sistemas com certas vulnerabilidades que vão acabar expondo esse ambiente. Então, é uma cadeia de coisas, não tem. É por isso que eu acho um pouco forte essa questão de isolamento lógico, porque de fato tu não vais conseguir isolar logicamente. Vais ter que permitir algum tipo de comunicação entre eles. E aí tem todo tipo de problema aqui que acaba aparecendo. (22:14) Mas sabe o que me chama a atenção aqui nessas regrinhas que são bem específicas? Veja, eles não nos deram as informações para o grande público do que exatamente aconteceu. Mas se você for cuidadoso e olhar essas regras, eu acho que você começa a ter umas dicas do que eventualmente pode ter acontecido, porque são regras muito específicas. É, talvez o carinha que fez os acessos para mexer no que ele mexeu e não deveria, não tivesse acesso direto aos sistemas que faziam, que (22:44) executavam o Pix e tudo mais. E a regra de baixo: gestão de certificados também. Gestão de certificados. Isso aqui é bem interessante, porque é o velho problema do gerenciamento de chaves, no final das contas. Certificado não é o problema em si, é o gerenciamento das chaves. Mas isso aqui está com muita cara de chave que estava em e-mail, chave que estava também, acho, em alguma pasta compartilhada em algum lugar. Porque esses certificados que ficam andando para cima e para baixo, que o pessoal tem que instalar nos sistemas, cara, é seguido isso passar por (23:24) e-mail. Seguido. “Ah, está aí o certificado, não sei quê”. E sabe o que reforça mais essa tua avaliação? Parágrafo primeiro ali do artigo 17: “O PSTI não deverá ter acesso às chaves privadas utilizadas para a assinatura das mensagens no âmbito dos arranjos e sistemas de pagamentos providos pelo Banco Central.” (23:48) Talvez mais uma dica aí do que possa ter acontecido também. Só para quem nos ouve, para quem é da área, acho que já entendeu o problema. Agora, quem talvez não saiba muito ou não tenha uma intimidade muito grande com isso, é o seguinte: as operações têm que ser assinadas digitalmente, certo? Mas não pelo PSTI. (24:10) O PSTI só fornece o serviço para a instituição que não se conecta diretamente na rede da STFN, do Sistema Financeiro Nacional. Então, eu uso o PSTI, só que o PSTI só faz esse meio de campo para essa comunicação. E eu, Vinícius, vamos supor que eu contrate o serviço do PSTI. Eu tenho minha chave privada lá para assinar as minhas operações, assinar as mensagens que eu quero mandar. Só que aí acontece um detalhe. (24:43) Idealmente, eu deveria ter o meu próprio sistema, separado do sistema do PSTI, para fazer essas assinaturas dessas mensagens e encaminhar isso lá para o Banco Central. Só que, com uma certa frequência, o que a gente vê é um pacote de solução que vem o software no qual tu tens que instalar tua chave privada lá dentro, tens que botar lá dentro do sistema para ele poder assinar quando tu usas uma API para fazer determinadas operações. (25:18) E isso, estou curioso até para saber mais detalhes nesse sentido, mas me parece que isso vai acabar tendo que virar um outro “pedaço”. Vocês vão ter que separar esses pedaços de software. Ou seja, vai ter empresas que têm os seus próprios, claro, não tem problema. Mas empresas que querem contratar PSTI para não ter muito trabalho com isso, estão acostumadas com uma solução pronta em que só largam uma chave privada lá dentro. (25:44) Aí tem uma senha para autenticar e diz assim: “Ah, faz a operação aí para mim”. Ele faz, assina a mensagem e manda. Manda, recebe, verifica, faz o que tiver que fazer, mas a chave fica lá. E aí, de repente, tu estás a falar que o sistema do PSTI não pode ter acesso às chaves. Quando tu falas “o PSTI não pode ter acesso às chaves”, se eu estiver a usar um sistema que o próprio PSTI está a me fornecer, o PSTI tem acesso às chaves, entendes? Isso significa que o PSTI tem acesso às chaves? Aham. Ou, uhum. (26:15) Se eu tenho uma peça de software fornecida pelo PSTI e que eu rodo na minha infraestrutura, e às vezes o PSTI nem gosta que tu olhes este sistema, mas ele está a ser específico na chave privada, Vinícius. Pois é, mas aí é que está. Eu ter um sistema, vamos supor, fornecido pelo PSTI dentro da minha infraestrutura, e olha que, via de regra, tu não podes nem mexer ali. Tu não podes mexer nesse sistema. (26:43) Os caras nem dão detalhes, tem uma série de situações meio chatas, algumas situações que já aconteceram. Mas aí tu tens que botar a tua chave privada ali, embora esteja na tua infraestrutura. Isso significa que o PSTI tem acesso à tua chave privada, ou a intenção do Banco Central é que o sistema que assina a mensagem tem que ser outro? Entendi. (27:13) Aí esse sistema fica com a chave privada, ele já entrega a coisa assinada para o PSTI, seja para o software, e aí o PSTI se vira e faz o que tem que fazer. Porque isso vai quebrar com muito modelo de prestação de serviço de PSTI. Mas você percebe que a exploração desse tipo de vulnerabilidade, essa questão da chave privada aqui, pode ter sido um dos vetores ou uma das vulnerabilidades que permitiram essa fraude? Não, mas eu acho que não. Não pode. Acho que com certeza. Acho não. Com certeza não dá para dizer. (27:49) Não, as operações tiveram que ser assinadas para serem realizadas. Uhum. Elas têm que ser assinadas e têm que ser assinadas com a chave privada do lugar. Agora, o que parece aqui é que, bom, primeiro, tem isso que eu falei. Normalmente o sistema tem um software fornecido pelo PSTI, no qual tu instalas a tua chave privada. Então, se isso significa que o PSTI tem acesso à chave, bom, aí já foi. (28:23) A falta de isolamento permitiria que o cara que fez a fraude, o funcionário que fez a fraude, e a falta de isolamento dos ambientes e tal, ele tivesse acesso direto ao serviço via aplicação do PSTI, que faz a integração lá com o PSTI. Então, me parece que é uma sequência bem plausível dentro daquilo que a gente já viu, do que a gente conhece. (28:48) Me parece uma sequência bem plausível de situações. Tu tens o PSTI que fornece um serviço, a chave privada fica ali, tu precisas de uma credencial tua para se autenticar com o serviço do PSTI que está local na tua estrutura — não fisicamente, necessariamente, local, mas numa infraestrutura que tem acesso — e faz tal operação. (29:10) O próprio sistema assina as operações e encaminha isso de forma automática. E, ao mesmo tempo, tens um funcionário que, por falta de isolamento adequado ou de controle de permissões, etc., conseguia chegar até esse serviço e tinha as credenciais para operar nesse serviço. E aí, feita a caca, entendes? É uma boa discussão essa aqui. É, mas é que são, na verdade, estamos aqui imaginando o que aconteceu. Mas, enfim, falamos sobre isso no 396. (29:37) Você tem dúvida, vai lá, escuta. Outras coisas que eu acho que são aqui… essa até não, que é: ações de inteligência cibernética, monitoramento de clientes, chaves, vulnerabilidades na internet, deep web, dark web. Tem empresas que fazem, que prestam esse serviço. (29:59) Isso se alinha bem a um controle novo, entre aspas, da 27002 de 2022, que é o controle de inteligência de ameaças, que não tinha na versão anterior, que é justamente isso. O nome é isso, inteligência de ameaças. Você começar, você ter alguma atividade, seja sua ou de um terceiro prestando, que faz essa avaliação. De certa forma, o nosso mailing tem um pouco essa função também: você ficar atualizado, ver eventuais… claro que devem ter coisas bem mais específicas. (30:28) Você tem um ambiente X com sistemas X, Y, Z, você vai buscar vulnerabilidades, zero-days e aquelas coisas todas para você manter, acompanhar também o cenário e a evolução do cenário de risco no qual tu estás inserido. Mas aí tem umas coisas bem interessantes aqui também, que é muito uma resposta direta ao caso: a avaliação de vulnerabilidades deve envolver, e isso é bem específico, varreduras físicas periódicas para identificar dispositivos indevidamente conectados. E, aí, Vinícius, isso é bem (30:59) interessante, porque a norma ISO fala sobre isso. Eu comentei antes, esse aspecto de segurança física não é muito valorizado pelas empresas, e nas notícias da época daquele incidente, disseram que teria sido instalado lá um “appliancezinho” ou… não se sabe se era um appliance, era um pedaço de software e tal. (31:27) E essa regra talvez nos faça intuir, olhando para o caso concreto e tentando descobrir o que aconteceu pela regra, que pode ser, sim, que os caras tenham conseguido instalar um Raspberry, alguma coisa do gênero, lá dentro da infraestrutura. Alguém está assistindo Mr. Robot. Mas é aí que está. Percebe que esse é um recurso que se usa para pentest quando tu precisas de acesso, quando tu vais fazer isso remotamente, Guilherme? Uhum. Então, por exemplo, quando tu tens uma situação que vais fazer um pentest que envolve infraestrutura, tu (31:55) terias que estar conectado à rede local, mas o teu cliente está distante, tu não vais até lá presencialmente fazer e tal. O que é bem normal? Tu instalares, tu pedires que o cliente forneça ou tu enviares para o cliente um equipamento que ele deve conectar na rede dele. E a partir desse equipamento, ele dá acesso, liberar lá o acesso às redes que a empresa tem para a gente conseguir usar esse equipamento como ponto de presença na rede do cliente e realizar as varreduras, as verificações que tiver que fazer, que tiver que realizar. Então, esse é um procedimento bem normal. E se tu tens um ambiente no qual talvez (32:34) tu tenhas um usuário limitado, com acesso limitado ao que ele pode fazer no computador, não é administrador, por exemplo. Não tem acesso administrativo para instalar software, etc. Então o cara não pode instalar uma VPN, não pode fazer alguma coisa assim. O que é mais fácil do que pegar um Raspberry Pi? Caixinha pequenininha, não faz, não precisa de cooler, não precisa de nada. Tamanho de uma carteira de cigarro. Um pouquinho mais grosso. Talvez se tu (33:00) pegares umas caixinhas, aí sim, fica menor, mais fino que uma carteira de cigarro. Não que eu saiba exatamente a espessura de uma carteira de cigarro, mas ele… tu pegas um equipamento desses e se a rede não tem segmentação, se a rede não tem uma segmentação interna, não separa os ambientes… Pelo que a gente está pressupondo aí, talvez não tenha mesmo. (33:26) Basta que essa caixinha seja ligada, ela se conecta, a partir dali estabelece uma VPN com algum lugar na internet, não precisa nem ser diretamente com uma máquina do atacante. E a partir daí, o atacante vem e faz o acesso à infraestrutura interna. Aí faz bastante sentido. Porque se o funcionário, do que a gente viu nas matérias e tal, não era alguém conhecedor de TI, que tinha que ficar anotando comando em caderninho e não sei o quê, o cara tinha que ficar olhando os caderninhos e fazendo… olhando (33:56) e fazendo… Imagina fazer o ataque todo dependendo desse cara. Então, me parece bem interessante. Me parece bem interessante colocar, mandar um equipamento: “ó, liga aí na rede, já que não tem separação nenhuma, liga aí que daí eu consigo acessar direto essas coisas e fazer o que tenho que fazer. Aí só me arranja as senhas”. (34:15) É muito interessante. Deixa eu te ler uma outra. Eu vou te ler uma outra aqui, que é sobre controle de acesso também. Revisão periódica de permissões, OK. Especialmente de colaboradores terceirizados. É mais uma vez uma regrinha específica para o caso da CM. Outra resposta direta aqui. E aí, utilizar múltiplos fatores de autenticação para o acesso administrativo dos sistemas que envolvem a atuação direta no Pix e no STR. Aqui parece mais um reforço, mas, assim, eu não consigo imaginar você não ter múltiplos fatores de autenticação para acesso ao STR, por (34:52) exemplo, ou acesso ao Pix que te permitissem simular ou falsificar ali transações. Porque me parece que foi isso que aconteceu também. Outra coisa, Vinícius: proteção de rede, além de firewall, claro. Definição de critérios especiais de monitoramento, em especial em horário noturno ou não convencional. Mais uma resposta direta ao caso, que parece que se deu de madrugada e tal. (35:20) E também monitoramentos de eventos atípicos, como abertura de VPNs, tentativas de acesso privilegiado em horários especiais. Ficou bem marcada aqui a questão do horário especial também. E o parágrafo sexto ainda desse artigo 17: a gestão de certificados envolvendo o monitoramento de uso e guarda dos certificados. (35:39) Mais uma vez a preocupação que a gente colocou aqui também. Tá, Guilherme, eu tô com a tua… Mostra aí a imagem pronta aqui. Só deixa eu… parei que eu, sem querer, cortei a faixa aqui do The Register para aparecer a fonte, cara. Tem que aparecer a fonte pro nosso… Não, isso aqui eu procurei aleatoriamente quando a gente falava aqui, um “Raspberry Pi Cigarette Case”. E, de fato, tem ali, mas isso aqui acho que o cara… isso aqui é de 2012. Mas a ideia… Opa, não. (36:10) Ih, opa, entrou o vídeo da… Não, para aí, é que tem o… eu estava… se tivesse me avisado antes. Mas aqui, aqui. Pronto, pronto. Está aí. Vai lá. Aí, ó. Mas é uma boa ideia, cara. Não, dentro de uma carteira de cigarro de verdade, que aquilo ali é papelão. É claro, mas, assim, dá tranquilamente para colocar. É interessante. É isso. (36:35) É segurança física, e aquela história: só vai chamar a atenção essa tralha em cima de uma mesa com cabo de rede saindo dela. Tudo bem que se tiver Wi-Fi, tu só precisas de um… ainda assim, precisas de um cabinho aí para manter funcionando, mas pões uma bateria escondida junto. (36:52) É, isso é de 2012. 15 anos já. Bom, aí depois tem aqui também coisas bem interessantes sobre a PSI aqui e outras regras, outras questões aqui que a PSI deve tratar lá no artigo 17 também, que é a certificação técnica das soluções de tecnologia da informação utilizadas pelas instituições e outras instituições supervisionadas pelo Banco Central para integrar por meio das interfaces eletrônicas. (37:25) Eu acho que ele deve estar querendo se referir às APIs aqui com serviços providos pelo PSTI. Ou seja, o que me parece que essa regra coloca, e eu acho que ela vai precisar de uma regulamentação adicional e posterior para dizer como que essa certificação técnica vai se dar, é que o que parece estar sendo dito aqui — lembrando, esta é uma regra que saiu sexta-feira passada, a gente leu, deu uma estudada nela, mas admitem-se aqui outras interpretações mais refletidas —, mas, enfim, o que se está dizendo aqui é que os sistemas que forem se conectar por meio de APIs aos serviços dos PSTIs (38:02) também devem ser certificados. E aí, isso vai colocar todo mundo que utilizava os serviços do PSTI pela facilidade, pela simplicidade, claro. Você usa o serviço de PSTI para não ter que se conectar diretamente à rede do SFN. Você vai ter aqui obrigações adicionais de certificar as tuas soluções que vão ser conectadas com ele. Por exemplo: a certificação técnica de que trata este artigo deve considerar, no mínimo, a definição e a execução periódicas de testes destinados a certificar que os sistemas computacionais utilizados pelas (38:38) instituições financeiras e demais instituições supervisionadas do Banco Central para integrar, por meio das interfaces, as APIs, os serviços providos pelo PSTI, estão em conformidade com os requisitos operacionais e de segurança estabelecidos. Eles deram um passo para além do PSTI, indo nos contratantes dos serviços de PSTI, mas ainda não está claro como que isso vai ser feito, como é que o Banco Central vai certificar as aplicações dos clientes dos PSTIs. E isso vai atingir muita gente aqui, Vinícius, se por (39:17) isso, exatamente. Essa interpretação que a gente está colocando vai atingir muita gente. Cara, aqui me parece que a maneira mais simples é o Banco Central dizendo que essas aplicações têm que passar por um pentest da Brown Pipe. Quer dizer, eles não citaram especificamente. Sim, não, mas, em essência, quer dizer que essas aplicações têm que ser testadas, cara, e têm que ser testadas regularmente. (39:42) Então, para quem é da área de segurança, é uma coisa meio óbvia. Aplicações têm problemas de segurança, aplicações acabam eventualmente tendo erros de codificação, um erro de projeto ali, um mecanismo mal implementado ou mal definido, às vezes bem definido, e aí ocorre um erro na implementação. Então, a gente tem várias situações aí que colocam esses sistemas em risco, e são sistemas, vamos dizer assim, bastante críticos, porque dão um prejuízo diretamente em grana, em valor. (40:21) Mas a gente tem uma série de situações que não apenas envolvem o sistema financeiro. Sistemas ligados à saúde, hospitais, etc. Quem já viu, por exemplo, quem já esteve perto de algum sistema hospitalar, já acompanhou, e principalmente aqueles sistemas antigos para caramba que estão rodando há 30 anos no hospital e o hospital не substitui, não altera, porque equipamento tal não é compatível e não sei o quê, aquela coisa toda. Legados ali. Sim, sistemas têm problemas. Então, o (40:57) Banco Central, eu não vou dizer que se enganou… se, hipoteticamente, o Banco Central acreditou que garantir a segurança da rede do sistema financeiro nacional e das empresas imediatamente conectadas, se cuidar desse entorno era suficiente… Se eles pensaram isso, se enganaram redondamente. Porque, obviamente, eu tenho várias outras peças de software que não fazem parte desse pequeno círculo, digamos assim, e que interagem, ainda que de forma indireta, com esse sistema. E essas peças de software, elas (41:39) obviamente… “ah, mas ela não pode agir diretamente porque ela passa por uma PSI”. Sim, mas a partir do momento que tu confias no que esses softwares fazem, e tu tens que confiar no que eles estão fazendo, na forma como eles estão implementados, tu vais executar as ordens que eles mandarem. Desde que, claro, se encaixe no protocolo e aquela coisa toda, nos limites, tudo mais, mas vai executar. E o que se descobriu é que a gente tem problema para fora disso. Estamos tendo problemas, temos PSTIs com problemas que já (42:10) estão ligados diretamente à rede, e o pessoal está se dando conta de que не adianta cuidar só do que está ligado direto na rede, porque o PSTI tem que confiar em peças de software que estão, em artefatos e tudo mais, que estão depois dele. E agora, o Banco Central está se mexendo para demandar um controle também dessas coisas que entram em contato por meio do PSTI com o sistema financeiro nacional. (42:40) Então, me parece assim… sabe quando saiu o Pix e aí o pessoal começou a fazer aquelas consultas malucas lá no diretório de chaves? É, no diretório. Aham. Isso. Aí o Banco Central se deu conta de que tinha que botar um limite nisso. E assim aconteceu. E eu acho que agora nós estamos vendo um outro tipo de limite aí sendo imposto, porque realmente não dá para simplesmente confiar em qualquer artefato de software que está vinculado. (43:05) É, mas a mudança aqui, me parece, não, a mudança é: o Banco Central deu um passo para além dos PSTIs. Isso, exatamente. Então, todo mundo que usa PSTI agora vai ter que… Isso não ficou claro agora, isso não ficou claro na entrevista que o Galípolo deu. Eu acho até que ele disse uma frase lá que a gente até replicou no nosso mailing ali, mas, assim, os contratantes têm novas obrigações. E isso é, para mim, um ponto de virada bem importante. Sabe, quase como se fosse assim: “Ah, não, eu uso PSTI, o problema de segurança é lá do PSTI”. E, claro, (43:49) acho que ninguém pensou isso exatamente assim. Mas, na perspectiva do Banco Central agora, você também responderá para o Banco Central. Você, contratante do PSTI. Depois tem plano de resposta a incidentes aqui, que é uma questão aí também nada de novo. (44:09) Claro, o plano deve ser compatível com o perfil de risco e deve ser testado e atualizado. E isso também não é novo, mas, assim, nem sempre isso vai ser bem observado pelas instituições. Política para gestão de fraudes. Isso aqui também é uma questão interessante. Ou seja, a partir de agora, os PSTIs vão ter que também realizar atividades de gestão de fraude com base em padrões históricos e comportamentais. (44:38) O PSTI passa a ser uma parte ativa na gestão de fraude que antes estava lá do lado do contratante do PSTI. Ou seja, era um papel do contratante verificar se um dos clientes dele não está fazendo operações atípicas. Passava para o PSTI assinado, o PSTI jogava aquela operação lá para dentro do SPB. Agora, caso fosse o Pix. Mas o interessante é que agora o PSTI vai ter que… ou seja, muda o papel do PSTI no âmbito da gestão de fraudes. Padrões históricos e comportamentais. E isso, meu amigo, envolve um caminhão de dados (45:21) pessoais também sendo tratados aqui. Ou seja, se isso passava talvez sem um tratamento outro aqui, agora os PSTIs também vão ter que começar a tratar esses dados que, em última análise, podem envolver dados pessoais aí. Depois, políticas de controles internos. Ou seja, qual é a ideia do controle interno? Você ter internamente um grupo e uma diretoria e pessoas dentro dos PSTIs também para garantir que as medidas de segurança implementadas por outras diretorias e pela avaliação de risco e tudo mais estão sendo (45:57) realizadas. Com o destaque de que a política de auditoria interna, seja a política de controles internos e de auditoria interna, devem promover a segregação das funções e das responsabilidades das unidades de negócios com os controles e com os órgãos de gestão de risco, controles internos e conformidade. (46:23) Esse é um ponto que nós já conhecemos e falamos sobre isso há bastante tempo. E agora fica mais claro do que nunca para os PSTIs. Mas outra coisa, Vinícius: agora é PSTI, eu acredito que isso vai se ampliar mais ainda. Isso já está se capilarizando para os clientes dos PSTIs. Claro que o PSTI é, de fato, o ente mais sensível aqui, mas isso vai se capilarizar também para outras instituições. (46:52) É uma demonstração que o Banco Central está dando aqui, me parece. Depois, aí, obrigações adicionais de informações que eles devem dar para o Banco Central. Ou seja, incidentes operacionais que afetem os atributos da segurança da informação ou que possam afetar os serviços devem ser imediatamente comunicados (47:17) claro, após a ciência. Ou seja, após a ciência, devem ser imediatamente comunicados e, em 10 dias, tem que entregar um relatório técnico. Ou seja, eles vão ter que estar muito bem preparados para entregar essas informações em 10 dias, que é um prazo exíguo. Depois, também precisam… diga, Vinícius. Não, mas nota que a notificação de que houve é imediata. É, depois da ciência, não tem. (47:41) É depois da ciência, mas, assim, uma vez que se tem ciência de que há um ataque, ela é imediata, ela não tem prazo. É de imediato, e tem 10 dias para fazer um relatório. A gente já falou sobre isso. Um relatório preliminar, acho que é bem preliminar assim, um relatório sujeito a correções, é possível entregar em 10 dias. Um relatório final sobre o que aconteceu, dependendo da situação, não vai ser possível em 10 dias. (48:14) Mas, enfim, tem outras comunicações que eles devem fazer: alterações de arquitetura, entregar relatórios anuais de auditoria, das auditorias internas e externas. Mais uma questão aí de segregação também, por empresa registrada na CVM, a externa. Seja mais um critério adicional aí dessa auditoria. (48:45) Mas o Banco Central também passa, eles passam a prever algumas medidas cautelares. Sejam medidas cautelares em incidentes que possam afetar o funcionamento do sistema de pagamentos, ou aqueles que não têm causa raiz identificada ou comprovação de resolução definitiva. Ou seja, não é só você ter o incidente, comunicar e depois entregar o relatório, porque o Banco Central pode ficar em cima e, se for o caso, ele pode intervir ali com uma medida cautelar, se não ficar exatamente claro que se identificou, por exemplo, a causa raiz, (49:16) ou seja, o que deu causa, e qual foi a medida de resolução definitiva. Resolução definitiva, tem que ter um certo cuidado aqui, porque a gente fala em gestão de risco. Às vezes você pode, eventualmente, até conviver com uma fonte de risco e tudo mais, mitigar. Resolução definitiva, às vezes, pode ser, em segurança, um pouco complexo, mas enfim. (49:42) E também eles podem aplicar limites operacionais de valores e tal, suspender serviços, exigir auditoria extraordinária, planos de ações corretivos, restringir contratação de novos clientes ou, no pior caso, executar o plano de saída ordenada. O seguinte: você vai sair, o Banco Central dizendo “saia do SPB de forma ordenada”. E também, e este também é um grande ponto de virada aqui, no artigo 35, que as instituições contratantes também vão cumprir, além daquilo que a gente falou antes, elas, e isso me chamou bastante atenção, Vinícius, as instituições (50:22) contratantes dos PSTIs vão ter que garantir ou assegurar que os contratos contenham as regras desta resolução, aqui, e monitorar a adequação do PSTI no cumprimento das regras da segurança, as regras de segurança do Banco Central, gestão de riscos, e o demais ali que está nesta resolução. (50:52) E aí, o que me chama a atenção é que o Banco Central está dizendo que os contratantes dos PSTIs vão ter que monitorar também e acompanhar se os PSTIs estão cumprindo as suas obrigações de segurança. E isso é bem delicado. Não sei se te parece. Não, sem dúvida. Porque já é difícil tu cuidares do teu, tu ainda vais ter que cuidar do outro assim. (51:18) E daí tem que ver até que nível que isso vai acontecer, Guilherme. Se de repente basta, concordo. Se de repente basta aparecer como com a LGPD, por exemplo. Se eu vou contratar o serviço de uma empresa, eu posso solicitar que essa empresa me dê evidências de que ela está respeitando a LGPD, de que os processos dela estão OK, ou que o sistema dela me dá recursos para gerenciar adequadamente os direitos dos titulares e blá blá blá. (51:45) Eu vou poder fazer isso? Ou seja, vou poder: “ó, PSTI, beleza, eu sou obrigado a acompanhar aí para monitorar se tu estás OK. Eu quero, todo ano, o relatório de vulnerabilidade de vocês. Eu quero relatório de auditoria, de pentest e tudo mais”. E nota que lá na resolução do Banco Central, nesta resolução que a gente está discutindo, ele fala justamente de dar os dados e as informações. (52:13) Tu viste a listinha? Não é só 35 dias. Eu não sei, não lembro o número do artigo aqui agora, mas não é só a questão de tu dizeres que, mostrar que fez uma auditoria. Tu tens que demonstrar, tu tens que mostrar o que foi encontrado, o que foi corrigido. Assim, não é qualquer coisa. É até meio complicado isso, dependendo do que vai ser mostrado. (52:36) Eu não sei se é muito viável o PSTI fornecer isso para o Banco Central. Beleza. O PSTI fornecer isso para todos os clientes que ele tem. Também acho. Pode ser problemático. É, não sei. Eu acho problemático. Mas o cliente, então, se for nos termos do cliente do PSTI, diz assim: “Eu quero, me dá evidência de que tu passou por uma auditoria independente, me dá a evidência de que tu fez pentest, me dá evidência este ano, ano que vem eu quero de novo”. E aí eu acho tranquilo. Qual a diferença de comunicar isso para o (53:04) Banco Central? Aí é o trabalho do banco, aí vai dar trabalho para o Banco Central. Não, mas assim, qual é a diferença de tu, PSTI, comunicares isso para o Banco Central e também seres monitorado pelos teus clientes? Porque o que a resolução diz é que os contratantes devem monitorar continuamente a adequação do PSTI contratado aos requisitos de governança corporativa, gestão de risco, segurança cibernética, gestão de fraude. Parece-me uma distribuição… isso dá para chamar, Guilherme, se (53:36) tu quiseres, de uma distribuição peer-to-peer de trabalhos do Banco Central. Uhum. Estás ligado? Não estou dizendo que o Banco Central não vai fazer o trabalho dele, não é isso. Mas tu estás meio que jogando para as pontas: “ó, tu vais contratar um PSTI. Embora o PSTI tenha que passar pela minha avaliação e eu tenha que autorizar o cara e tudo mais, mas tu aí tens que monitorar o PSTI que tu estás a contratar”. Aham. (54:05) De acordo com as regras que eu defini. A parte mais próxima. E detalhe, e detalhe: a não observância do disposto neste artigo, ou seja, se tu, contratante, não fizeres isso, você fica sujeito às sanções previstas na legislação em vigor. Tem outras coisas: manter posse das chaves privadas, não utilizar o mesmo certificado entre ambientes de homologação e produção, manter à disposição do Banco Central documentação relativa à contratação e ao monitoramento e supervisão do PSTI. (54:36) É um dever adicional de monitoramento e supervisão do contratante do PSTI que pode ser exigido pelo Banco Central. Isso é bem interessante, cara. E, ao mesmo tempo, preocupante talvez para as empresas que vão ter que começar a cumprir esse dever de uma hora para outra. É. (54:56) E aí, o seguinte: essa aí que eu coloquei, as empresas podem simplesmente pedir a comprovação de que estão fazendo isso. É uma possibilidade. Então, me dá evidência. Eu contrato o PSTI e digo: “PSTI, me dá as evidências de que tu estás seguindo as coisas”. Esse caminho acho que é fácil. Mas, por outro lado, se precisar de monitorar, acompanhar, daqui a pouco tu vais ter o cliente do PSTI pedindo para o PSTI não a evidência de um pentest, mas autorização para ele, cliente, pegar uma empresa terceira e fazer um pentest no sistema do PSTI, entendes? Ou pegar algum (55:39) tipo de monitoramento mais ativo, sabes? Eu acho mais, eu acho mais provável pedir… mais fácil pedir evidência do que ficar, do que jogar essa questão de monitoramento constante para o colo do cliente, entendes? É, mas não esquece que o cliente aqui ele tem a obrigação de comunicar de imediato ao Banco Central as falhas ou os descumprimentos identificados na atuação do PSTI. (56:12) Você monitora, você tem que guardar as informações, você tem que acompanhar e tem que denunciar o cara para o Banco Central, tem que “dedurar” o cara. E para isso você vai ter que ter um setor interno de controles. Ou seja, você vai ter que avaliar o controle do PSTI. Isso é muito delicado. Isso é muito delicado porque eu entendo que o Banco Central tem mais condições, por exemplo, do que o PSTI para fazer esse tipo de controle de segurança. E entendo que o PSTI, por sua vez, tem mais condições do que o seu cliente lá (56:43) na ponta para fazer esses controles, esses cuidados com segurança. E aí tu dás ao cara lá na ponta, que é o cliente do PSTI, a responsabilidade de monitorar o PSTI. Não, não é responsabilidade, é obrigação. Obrigação. E ainda esse cara tem que coletar a evidência. (57:03) Ele tem que monitorar, sei lá como, tem que coletar a evidência e tem que entregar esse cara para o Banco Central quando esse cara descumpre. E se é obrigação e tu não fazes, tu não monitoras, tu ficas sujeito à sanção. Cara, mas pensa, pega o caso concreto, Vinícius, para a gente já ir terminando. O PSTI pede: “Me passa a tua chave privada aí, porque sem a tua chave privada não vai dar para implementar”. (57:32) E tu passas e tal, e depois te dás conta e tu dizes: “Olha, Banco Central, ele me pediu a chave privada aqui”. Não, você não poderia ainda. Você teria que identificar que ele não pode. Tu vais ter que dizer: “Olha, eu não posso fazer isso. E você está descumprindo o parágrafo primeiro do artigo 35. E eu estou notificando o Banco Central de que você está me pedindo isso”. É isso aí. Exatamente isso. (58:00) Ai, ai. Exatamente isso. Enfim. Tem mais outras coisas aqui, uma norma complexa. Eu acho que, como a gente colocou aqui, outras coisas vão acabar acontecendo aqui também. E vamos ficar atentos, como sempre. Lembrando que eu acho que isso vai dar uma mexida no sistema financeiro. Ou seja, quem utiliza serviço de PSTI vai ter que ficar bem atento agora. E, enfim, vamos ver o que vai acontecer a partir de agora. Sem (58:35) esquecer também, Vinícius, que essas regulações também entram no momento em que o sistema financeiro também foi utilizado nessas investigações recentes aí de fintechs sendo usadas para lavar dinheiro. Então não acabou, cara. Agora sim, ó. Agora essas fintechs todas vão entrar. (58:56) O Banco Central vai regular tudo. Sim. Não vai ter mais essa coisa aí de “conta bolsão”, com essa conta com um dinheiro… Lembrei lá do bolsão do… do… Ah, o “bolseiro”. Aham. É. Não, não vai ter essa brincadeira aí. Então, esse vai ter mais um monte de gente regulada, cara. (59:23) É uma… é assim, acabou a festa. A festa no mau sentido. E acho que não tem outro caminho. Sistema financeiro tem que ser regulado, cara. Tem que ser monitorado. E aquela história: não precisa mais explodir carro-forte. Não precisa mais, tu vais direto nos sistemas, cara. (59:43) E com Pix e com Bitcoin… O Bitcoin que eu digo, com criptomoedas. Pix, cara, o negócio é perfeito. Assim, é o caminho… o caminho é perfeito. O Pix dá movimentação instantânea de dinheiro. Essa movimentação instantânea de dinheiro te permite ter teu dinheiro disponível na conta que tu precisas que esteja disponível rapidamente. (1:00:08) Tu convertes isso em criptomoeda e puf. Então, a gente vai ter mais problemas a acontecer. Vão ter problemas. Os problemas são novos problemas. É um novo mundo. Novo mundo, novos problemas. Novas soluções, novos problemas, novas obrigações. Bom, é isso aí. Não tem muito… Esperamos então que tenham gostado do episódio 401 e aguardaremos todos no próximo episódio do podcast Segurança Legal. Até a próxima. (1:00:40) Até a próxima. | — | ||||||
| 9/3/25 | ![]() #400 – Espaço BrownPipe e ECA Digital | Neste episódio comentamos o marco de 400 episódios e analisamos a fundo a nova lei do ECA Digital para a proteção de crianças online. Você vai aprender sobre as novas obrigações que o ECA Digital impõe a plataformas e serviços na internet, como a polêmica verificação de idade obrigatória e a proibição de funcionalidades viciantes, como o feed infinito e a reprodução automática. Discutimos os desafios técnicos e de privacidade para implementar um controle de acesso eficaz, a criação de uma nova autoridade reguladora e as regras mais rígidas contra o cyberbullying e a publicidade infantil, incluindo a proibição do profiling de menores para anúncios, além de promover o aumento da proteção de dados e a segurança de crianças no ambiente digital, abordando desde o controle parental até a responsabilidade das Big Techs na moderação de conteúdo e na monetização que envolve menores.. Este é um guia essencial para entender o futuro da segurança online para crianças e adolescentes. Neste episódio comemorativo de número 400, Guilherme Goulart e Vinícius Serafim também celebram os 13 anos de podcast, relembram a trajetória do Segurança Legal e agradecem aos ouvintes pela jornada. Além da celebração, anunciam a inauguração do Espaço BrownPipe, um novo local para inovação e gravação de conteúdo. Para não perder nenhum insight sobre segurança da informação, direito da tecnologia e privacidade, assine o podcast Segurança Legal no seu agregador favorito, siga-nos nas redes sociais e deixe sua avaliação. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Vídeo – Conheça o espaço BrownPipe Imagem do episódio – Height Requirement 📝 Transcrição do Episódio (00:01) [Música] Nosso primeiro podcast. Nós vamos tratar a respeito dos recentes vazamentos de dados do sistema, mais especificamente do sistema Consultas Integradas da Secretaria de Segurança Pública do Rio Grande do Sul. Isso tem vindo à lume através dos meios de comunicação, através de denúncias de situações que não aconteceram uma ou duas vezes; elas vêm se repetindo e vêm sendo reportadas ao longo do tempo. (00:43) Ao longo deste programa, nós vamos discutir algumas notícias às quais me referi. Vamos também discutir o que é o sistema Consultas Integradas. Como se dá o acesso ao sistema, quem pode acessá-lo, que informações estão lá e quais são os problemas de autenticação, se há problemas nesse sentido. (01:03) Vamos comentar também a respeito da auditoria do Tribunal de Contas do Estado do Rio Grande do Sul, que foi feita nesse sistema, indicando quais são as falhas a serem corrigidas pela Secretaria de Segurança Pública do Rio Grande do Sul. E vamos discutir algumas questões, possíveis soluções e também a questão da importância deste sistema e quais são os riscos que ele acarreta da forma como é utilizado. (01:51) [Música] Este é o Segurança Legal, episódio 100, gravado em 20 de abril de 2016: Os bastidores do Segurança Legal. Neste episódio especial, falamos sobre os bastidores do podcast Segurança Legal com a ajuda de Fábio Assolini como host. [Música] Este é o Segurança Legal, episódio 200, gravado em 20 de maio de 2019. (02:20) Chegamos aos 200. Neste episódio, vamos fazer comentários gerais sobre os últimos 100 episódios do Segurança Legal com a participação de Fábio Assolini. [Música] Segurança Legal com Guilherme Goulart e Vinícius Serafim. Um oferecimento Brown Pipe Consultoria. [Música] Este é o Segurança Legal, episódio 300, gravado em 31 de dezembro de 2021. (02:53) Neste episódio, você ouvirá um pouco do que aconteceu nos últimos 100 episódios do Segurança Legal. Segurança Legal com Guilherme Goulart e Vinícius Serafim. Um oferecimento Brown Pipe Consultoria. Sejam todos muito bem-vindos ao episódio 400 do podcast Segurança Legal. Estamos de volta com o seu podcast de segurança da informação, direito da tecnologia, tecnologia e sociedade. (03:29) Eu sou o Guilherme Goulart e aqui comigo está, pela 400ª vez, Vinícius. Na verdade, um pouco menos, porque tem vários episódios que eram os resumos de notícias do Assolini. Teve episódios que eu não pude fazer. Então não dá exatamente 400 episódios em que estamos juntos. (03:56) Mas sim, são quase 400 e eu estou quase sem voz aqui. Estou quase ausente do episódio 400. Pois é, eu vi aqui que o cardinal é quadrigentésimo. Quadrigentésimo episódio. Eu achei que fosse quadricentésimo, mas enfim. Acho que dá para contar 400 vezes aqui, Vinícius, até porque teve outras coisas que a gente participou. E acho que esse é o primeiro ponto aqui. Você ouviu aí, a gente fez um pequeno áudio do primeiro, do centésimo, do ducentésimo, do tricentésimo. (04:27) E agora do quadrigentésimo episódio, para trazer um pouco desse histórico, Vinícius. Afinal de contas, aquele primeiro áudio que você ouviu ali, já falei isso várias vezes aqui, mas acho que cabe falar novamente. Você vê que a qualidade estava ruim, tinha um ruído de fundo. Nossa, cara, eu estava olhando os tempos aqui. (04:52) Pegamos do episódio 1, do 100 e do 300. São quatro episódios. Só a abertura do primeiro episódio é metade do tempo de tudo que nós tocamos aqui no início. A gente fazia uma abertura bem mais longa. E sem contar que era uma coisa meio “durenga”, a gente ainda estava encontrando nosso jeito de falar para poder gravar. (05:24) Então, é muito interessante ouvir de novo essas aberturas. E mudou muito da primeira para a centésima. Sim, a qualidade e a forma de fazer a abertura. E também vimos a participação no 100 e no 200 do nosso querido amigo Fábio Assolini, que fez parte da história deste podcast também. (05:49) Aproveitamos para mandar um grande abraço para ele. Um cara muito importante na nossa jornada e, além de ser um cara fabuloso, uma pessoa muito bacana. Então, o Assolini, mesmo tendo deixado o Segurança Legal, faz parte desta história. É importante notarmos também. (06:09) O episódio 300 foi um apanhado dos últimos 100 episódios que durou 5 horas e pouco. Agora, vamos fazer algo um pouco diferente, porque tem outros temas que queremos tratar também, Vinícius. E acho que outro tema, além de agradecer aos ouvintes nesses 12, 13 anos de podcast, de 2012 para 2025, então são 13 anos de podcast. Isso é feito tudo para você, ouvinte. (06:37) Mas também nós temos um anúncio bem legal para fazer, que foi a inauguração do Espaço Brown Pipe na SETREM em 3 de maio. Conta para nós um pouco como foi esse dia. Deixa eu até botar umas imagens para rolar aqui. Depois tem o link para quem quiser assistir ao vídeo na íntegra, com áudio e tudo. A SETREM, a Sociedade Educacional Três de Maio, é uma instituição com mais de 100 anos de existência. (07:06) Claro, a faculdade não é tão antiga. Ela tem, acho que, em torno de 50 anos, se não estou enganado, que é o curso de Administração, um dos mais antigos. Mas é uma instituição com a qual temos uma certa ligação, né, Guilherme? (07:27) Uma instituição em que estudei em 93. Em um dos vários lugares que morei, morei aqui perto, em Boa Vista do Buricá, e acabei estudando na SETREM. E eu tenho muito boas lembranças da SETREM, inclusive relacionadas à questão de TI. Na época, era só eu e mais uns dois colegas que tínhamos computador, e chegamos a fazer trabalho em conjunto com modem, cara, linha discada, não tinha internet. (07:55) Então, temos uma vinculação muito grande. E depois, eu e tu acabamos vindo… Eu acabei voltando a Três de Maio por teu intermédio e da tua na época namorada, hoje tua esposa, a Tatiane. E aí eu conheci a minha esposa. Fomos juntos fazer uma palestra aí na SETREM e eu acabei conhecendo minha esposa. (08:19) Então, quando vim morar em Três de Maio, acabei dando aula na SETREM. Até hoje atuo lá na SETREM, na coordenação de TI junto com o pessoal e acompanho alguns projetos. Então, já fazia horas que a gente estava circulando na volta da SETREM. (08:39) Tu foste professor da SETREM também, Guilherme, no período que tu conseguias ficar viajando. E acabamos estreitando esses laços com a instituição, uma instituição pela qual temos um carinho bastante grande. E a Brown Pipe, nós dois iniciamos trabalhando remotamente desde o dia um. E aí, com a pandemia e o pós-pandemia, como muitas empresas, o resto do pessoal foi para o home office. Eu e o Guilherme sempre trabalhamos em home office. (09:12) Resolvemos então ter um espaço físico ali na SETREM, uma parceria para criar um espaço que represente a Brown Pipe e que seja aberto para conseguirmos interagir de uma maneira mais próxima com a academia, considerando o espaço que temos muito próximo da gente. (09:34) Então, essa sala aí que vocês vão ver, é mais um lugar de encontro, de estudo, de gravações. Vocês vão ver coisas gravadas lá. Este fundo aqui já é de lá. E nós fizemos um evento em que falamos sobre inteligência artificial, segurança da informação e proteção de dados. Essas três coisas. (09:59) Fizemos um talk com empresários aqui da região sobre esse tema. Então, foi um momento bem interessante, em que inauguramos esse espaço lá dentro da SETREM e reforçamos uma parceria que já estamos buscando há algum tempo, para estar mais perto dos alunos aqui da cidade. Tem curso de Direito aqui, de Computação, Psicologia, Enfermagem, Pedagogia, tem várias coisas aqui. (10:29) Quando falamos em proteção de dados, nem sempre chamamos tanta atenção. Mas quando falamos, por exemplo, de ferramentas que todo mundo está usando, aí acaba envolvendo toda essa questão da proteção de dados, segurança da informação e tudo mais. Bom, mas estão aí algumas imagens para você conferir o que aconteceu no evento. (10:45) Estamos bem felizes por ter feito isso, Guilherme. Por ter feito essa inauguração. Acho que são duas coisas das quais eu me orgulho muito na minha vida: o podcast Segurança Legal e a Brown Pipe. Porque construímos essa empresa desde o início com uma série de valores que fomos preservando ao longo do tempo, sobre como trabalhar, sobre como lidar com as pessoas. (11:13) E acho que isso acaba se refletindo também na forma como lidamos com nossos clientes. Vocês nos conhecem, têm nos ouvido aqui por 400 episódios. Então, também achamos que é possível mudar o mundo, ou contribuir para o mundo, por meio de uma empresa, pela forma como lidamos com as pessoas, com a academia, com os clientes, com os funcionários. E acho que essa sala representa isso também, porque ela vai permitir, é uma sala multiúso. Tanto a comunidade acadêmica, os docentes, os discentes podem usar essa sala se quiserem. (11:47) E a própria comunidade empresarial de Três de Maio. Ficou um espaço excelente. Modéstia à parte, Vinícius, investimos bastante tempo ali no planejamento, então todos os detalhes foram cuidadosamente planejados por nós. E, claro, não podemos esquecer também da Camila, que trabalha conosco, que foi a pessoa tanto que organizou esse evento, que você está vendo ali, foi um evento bem legal, depois vai ficar o link para você ver os vídeos e fotos, mas também (12:16) foi a pessoa que, em grande parte, foi responsável pela organização da própria sala, escolhas e tudo mais. Foi ela que fez aquele logo bonitão da Brown Pipe, que ficou um logo metalizado. Não, não vem com metalizado. Eu penei para conseguir encaminhar isso. Não fui eu que fiz, é óbvio. Isso aí é aço inox. Não lembro o número do inox. (12:41) Tem um número específico. Ah, eu não sabia dos números do inox. Há vários tipos de inox. Ali é um aço inox de 1.5 mm. É pesado pra caramba aquele negócio. Bom, de qualquer forma, fica então aí o nosso anúncio. Se você estiver pela região, nos avise e passe lá para conhecer o espaço, tomar um café com a gente, tomar um suco, enfim, conversar sobre esses nossos temas. Será muito bem-vindo. Tá bom? Beleza, Guilherme. (13:12) E agora vamos entrar no ECA Digital. Esse foi, Vinícius, um dos… embora o projeto seja de 2022 e tenha sido discutido com reuniões, com audiências públicas e tudo mais, ganhou reforço essa questão do ECA Digital com o famoso vídeo lá do Felca, que inclusive foi nosso último episódio, o 399, que gravamos em agosto, 12 de agosto. Falamos sobre (13:48) isso e o processo legislativo passou por Câmara e Senado, e agora essa lei já foi para a sanção presidencial. Ele pode eventualmente vetar uma ou outra coisa, mas estamos vendo aqui a versão que provavelmente vai se tornar a lei. E aqui, acho que cabem algumas questões, algumas direções introdutórias, Vinícius. Essa lei fala sobre várias coisas que vamos comentar aqui, sobre várias práticas que deverão ser realizadas pelos (14:17) provedores e por empresas que disponibilizam conteúdo direcionado para crianças e adolescentes. A lei toda fala sobre crianças e adolescentes, mas para eu não ficar repetindo, vou falar “criança”, e vocês entendam que o adolescente está incluído, tá? Só para não ficar falando o tempo todo “criança e adolescente”. Então, para qualquer tipo de produto ou serviço que seja direcionado para a criança ou de acesso provável por eles, o que pode ser também um problema para saber o que vai ser esse “acesso provável”. Várias dessas práticas vão contar ainda com uma (14:56) regulamentação posterior para dizer como algumas dessas coisas serão feitas. É um tema complexo e eu cito aqui, Vinícius, as palavras do Paulo Rená, nosso amigo, agora doutor em Direito, recém-doutor em Direito, e ele falou assim: “Pode não ser a melhor lei, pode ter problemas de fato, mas é um avanço importante na proteção dos menores”. O pessoal não gosta muito de falar “menores”, mas enfim. (15:29) Porque tem toda a questão do que é criança e adolescente pelo ECA. Mas não importa agora para esta discussão, mas se tem definição, deve importar. Sim, tem, tem. (15:52) Não importa no sentido de facilitar a exposição aqui, mas sim, importa de fato. E acho que isso também toca em outro problema que estamos enfrentando agora, que é como regular a tecnologia. Estamos vendo ao longo desses últimos anos a dificuldade de regular a tecnologia, porque o papel das big techs está muito incisivo e forte, seja no lobby ou em práticas que estamos vendo com os Estados Unidos agora, de eles simplesmente optarem por não cumprir certas normas ou se oporem, até mesmo aplicando sanções a países que queiram regular certas atividades. E aqui estamos falando (16:29) da regulação de um ambiente digital que seja seguro para as crianças. E aí, outra coisa, Vinícius, também que é uma crença muito, me parece, errada que temos no Brasil, que é achar que vamos conseguir mudar a realidade com uma lei. (16:48) Tenho um problema, basta que eu faça uma lei que automaticamente as práticas sociais ou empresariais vão se modificar. O que temos visto cada vez mais é que nem sempre se pode contar com a boa vontade das empresas. Várias coisas que temos visto de práticas de big techs, sobretudo em relação às crianças, demonstram que eles de fato não têm agido de boa-fé. Porque achamos por um bom tempo que poderíamos contar com a boa-fé no sentido de que os caras teriam uma motivação, uma prática social, um cuidado… (17:25) e o que temos visto é que isso não está acontecendo. Que seriam proativos. Mas não foi o que aconteceu. Sobretudo em big techs. Não sei se tu queres falar alguma coisa inicial, Vinícius, para depois a gente ir comentando sobre alguns aspectos da lei. (17:48) Bem rapidamente, justamente nessa linha da falta de proatividade das empresas. Nós comentamos em vários episódios aqui, Guilherme. Citamos, no caso do vídeo do Felca, no último episódio, falamos sobre isso também. Nós aqui já faz um tempo que comentamos sobre esse uso de internet por parte de (18:19) crianças. E quando falamos internet, estamos falando de serviços, de aplicativos e de tudo mais que se acessa por meio da internet, mas não somente. Até mesmo brinquedos, já falamos sobre os brinquedos conectados à internet, jogos. E, de fato, os controles são bastante limitados. Você pega uma empresa como a Meta, por exemplo, que tem o Facebook, o que ela investe para conseguir criar perfis, vender propaganda, etc., e implementa mecanismos pífios de cadastro, (18:59) pelos quais as crianças facilmente conseguem passar. Mas de qualquer maneira, encontramos isso em diversos lugares, por exemplo, o Steam para quem joga. A central de jogos Steam tem controles parentais muito bons, tá? Eu falo porque uso, meu filho tem Steam, os controles parentais são muito bons. Mas, ao mesmo tempo, embora tenha uma certa dificuldade ali, se meu filho quisesse criar uma conta na Steam dizendo que nasceu um pouco antes, (19:35) ele conseguiria e teria acesso a conteúdos. Bom, eu mesmo tive que desativar na minha conta Steam, Guilherme. De um tempo para cá, começaram a aparecer algumas propagandas na loja da Steam de jogos que são, na verdade, com conteúdo sexual explícito. (20:03) E eu achei estranho aquilo começar a aparecer para mim, e aí tive que me preocupar em procurar onde eu desativava esse tipo de conteúdo na minha conta para que eu não abrisse a loja na frente dos meus filhos e de repente aparecesse uma coisa explícita lá. Então, achei um lugar onde desativar, beleza. Imagina uma criança que abre uma conta na Steam e os pais nem sabem o que é. (20:25) Elas estarão muitas vezes expostas a conteúdo sexual explícito. Não é erótico, é explícito mesmo. E aí, acabei me aprofundando um pouco nos controles quando fui criar a conta para ele, fui ver como se fazia uma tal de conta família. (20:42) Então, tu tens uma série de controles, mas isso exige dos pais um conhecimento que muitos não têm, uma intimidade com tecnologia que muitos não têm. Então, dá para ver, em resumo, que o que tu falas, de que a gente esperava que, de boa-fé ou de maneira proativa, as big techs atuassem para proteger as crianças, na verdade é o contrário. (21:09) Elas fazem o mínimo, só para dizer que estão se preocupando de alguma forma, mas é o mínimo. Não facilitam as coisas. Controles de privacidade são ruins mesmo para adultos. É difícil para os adultos organizarem as coisas, acessarem, conseguirem ter algum controle sobre isso. (21:32) E, no entanto, elas investem caminhões de dinheiro para fazer outras coisas mais complexas, mas que facilitem a vida deles em coletar, criar perfis, etc., e não investem nisso. Outro exemplo, Guilherme, bem chato: o Netflix. No Netflix, tu podes criar um perfil por idade e, inclusive, vetar conteúdo. (21:58) Então, posso no perfil dos meus filhos dizer: “este conteúdo eu não quero que apareça”. Só que isso é uma coisa tão chata, cara, que eu tenho que ficar catando onde é. Só funciona no navegador. Então, se tu usas no celular, na TV, e não acessas tua conta Netflix no computador, tu não vais ver o controle que te permite tirar algumas coisas que tu não queres que a criança assista. (22:22) E é chato de fazer, tem que ser um por um. Não consigo pesquisar e marcar todos que aparecem na pesquisa. Parece que é feito de propósito para ser difícil esse tipo de controle. Sim, cara, são os “dark patterns”, né? É o “dark pattern” ou também conhecido como má-fé. (22:43) Má-fé é a palavra. É isso. Esse é meu comentário de entrada neste assunto. Estou controlando um pouco minha voz, gente. Estou quase sem voz e tenho que dar uma aula hoje à noite. Quero só ver. Sabe que essa coisa de “a lei vai mudar a realidade posta”? Essa lei fala várias vezes sobre essa obrigação, não somente o direito da criança de obter uma formação adequada para o uso de novas tecnologias, mas também o dever dos pais, que se amplia (23:14) naquilo que conhecemos como poder familiar. O poder familiar, que é o poder que os pais têm de direcionar a criação dos seus filhos, é um poder, mas é um poder vinculado. Como todo exercício de direito, você tem limites. O poder que você, enquanto pai, tem de direcionar a criação dos teus filhos não é ilimitado no sentido de que você possa fazer qualquer coisa, porque é um poder que você exerce em função do filho, ou, dito de outra (23:49) forma, seguindo uma palavra que aparece várias vezes lá, que é o “melhor interesse da criança”. Você tem o poder, mas esse poder é limitado pelo melhor interesse. O ponto é que você não precisaria de uma lei para que pais conseguissem direcionar o uso de tecnologia pelos seus filhos, sobretudo qualitativa e quantitativamente. E a lei, me parece que, infelizmente, não vai mudar isso. (24:22) Não vai ser com a lei que os pais vão acordar para isso. Precisamos de algo mais. É uma questão que não é só… claro que os pais também têm um controle limitado, é uma sociedade toda direcionada para que todo mundo se vicie nesse tipo de aplicativo. (24:42) Então, o pai sozinho também não vai conseguir fazer nada. Mas novos deveres ficam bem mais claros agora, se havia alguma dúvida de que os pais deveriam tomar esses cuidados. Bom, vou tocando em alguns pontos, Vinícius, e aí você vai me interrompendo sempre que achar necessário. Primeira coisa é que teremos outra autoridade, que é referida aqui, seria a “Autoridade Administrativa Autônoma de Proteção de Crianças e Adolescentes no Ambiente Digital”. (25:08) (risos) Tentei fazer a sigla, mas ficou totalmente impronunciável. Se nem eles fizeram… É A3… Não, não dá. Horrível. (25:41) E essa autoridade, referida várias vezes, ainda terá que ser criada. Ela terá várias atribuições, inclusive de eventualmente receber e avaliar os controles de idade, que acho que é uma das grandes questões aqui e que se assemelha um pouco ao que está acontecendo no Reino Unido também. Outra coisa que comentei antes, o “melhor interesse da criança”. Esse é um conceito super importante quando falamos em criança e adolescente. É você avaliar não somente o que vai ser melhor para (26:10) ela naquele contexto, mas também entender algo que é muito importante para quem estuda essa parte de direito da criança e do adolescente. Já estudei no passado um pouco. Se tem um conceito muito importante, é o chamado “desenvolvimento progressivo”. Não é assim, o cara vira adulto. Ele vai progressivamente, mesmo enquanto criança, se desenvolvendo intelectualmente. E a ideia é que você (26:46) também deva respeitar esse desenvolvimento progressivo da criança, no sentido inclusive de ir pouco a pouco liberando, permitindo, ensinando. Não é oito ou oitenta. Em algum momento, eles falam, por exemplo, além de definir esse melhor interesse na internet, que é muito importante, são conceitos abertos que às vezes a doutrina jurídica precisa preencher. Mas eles fazem essa definição, fazem a definição de mecanismos de segurança e trazem ideias de mecanismos de segurança. (27:15) Dizem que os sistemas devem ter medidas razoáveis desde a concepção para mitigar riscos. Seria o “children care by design” ou algo parecido. Não somente o “security” ou “privacy by design”, mas o “care by design”, o cuidado por concepção. (27:42) Propõe muitas medidas a serem tomadas, entre elas, um negócio que é bem importante, que é o da intimidação sistemática virtual (cyberbullying). Inclusive, tem uma lei, a 14.811 de 2024, que cria esse crime de cyberbullying. (28:00) Então, entende-se também que faz parte da proteção da criança ter práticas que evitem isso na internet. E veja, tudo isso é muito difícil. Às vezes, tendemos a dizer: “Não, mas a rede social tem que fazer isso”. Mas, ao mesmo tempo, os técnicos precisam estar envolvidos para dizer ou avaliar os próprios algoritmos, quando possível, para saber o que é possível de fato ser feito. (28:23) Porque reconheço que há um espaço em que o legislador quer que a empresa faça algo, mas pode ser que não seja possível a empresa fazer. E por que isso é importante? De repente, estou falando de uma big tech, que tem recursos para fazer isso. Mas a questão é que agora, dependendo do serviço que você presta, você, enquanto empresário, terá que começar a se preocupar com essa lei também. (28:47) Não é só a big tech, rede social e grandes jogos. É qualquer produto ou serviço que seja destinado a crianças ou de acesso provável por elas. Então, pode ser muito mais do que a gente imagina. E aí depois chegamos nesse tal de controle de acesso por faixa etária, que é a grande polêmica lá do artigo 9º da lei. Define essa obrigação, mas não define o tamanho da plataforma. (29:13) Isso pode ser bem delicado, no sentido de que pequenas plataformas ou pequenos serviços eventualmente não consigam realizar esse controle de acesso por faixa etária. Faz algumas definições do que é conteúdo impróprio e relaciona com classificação indicativa, Vinícius. E essa é uma coisa bem interessante. (29:39) Já te passo a palavra, porque vivi isso contigo e com as crianças. Quando vou aí, a gente conversa, e você é bem cuidadoso com essa coisa do tipo: “tem esse jogo aqui, mas esse jogo ainda não é para eles, está guardadinho para eles jogarem quando crescerem”. E eu estava lendo esses dias algumas pessoas falando na internet: “Ah, que agora meu filho não vai poder jogar o GTA 6”. Cara, sei lá, cinco ou seis. (30:02) O próximo agora é o seis. É, deve ser. Não estou acompanhando o GTA. Mas enfim, cara, é um jogo para pessoas com mais de 18 anos. Teu filho não pode jogar o GTA 6, ou cinco, seja qual for o número. E acho que esse ponto da classificação indicativa e o papel dos pais aí ficou meio perdido nisso tudo. Porque o pai ainda tem o papel de direcionar ou (30:34) permitir que o filho… claro, com todas as atribulações que isso possa ter na internet, não conseguir controlar tudo que o filho vê, mas ainda assim os pais têm um papel aí nesse âmbito de classificação indicativa, por exemplo. É aí que está, Guilherme. Essa questão da classificação indicativa. Primeiro, temos que lembrar que, se o pai autorizar, a criança vai acessar, certo? Que nem no cinema: tem a classificação indicativa para um filme, mas se estiver acompanhado dos pais e os pais (31:15) acharem por bem levar a criança no filme, vai levar. Esse é um aspecto importante. Porque, no final das contas, os pais vão fazer esse filtro em casa, onde as crianças passam a maior parte do tempo, em casa e na escola. (31:40) Na escola, já tem um pouco mais de limite porque está proibido o celular lá, pelo menos nas escolas que seguem direitinho a lei, que conseguem implementar os mecanismos para que as crianças não tenham acesso ao celular. Depois, do ônibus para casa ou da rua para casa, e mesmo na casa do amigo, os controles são os que valem na casa. (32:12) Por exemplo, meus filhos não usam celular, nem têm celular. Mas os coleguinhas do meu filho mais velho quase todos têm celular. Alguns pais têm algum controle, outros, eles fazem o que querem no celular. Então, existem algumas dificuldades de entendimento por parte dos pais e responsáveis com relação a essa curadoria, essa tutela com relação ao conteúdo acessado e entender o que é adequado ou não. E tem aquele problema que já comentamos várias vezes: o pai… (32:50) quem é pai e mãe aí sabe como é. Às vezes, você está cansado, e quer sentar um pouco, e de repente a criança se acomoda num desenho, vendo alguma coisa na TV, num jogo. E tirá-la dali significa que tu vais ter que sentar com ela. (33:13) Tu vais ter que tirá-la dali e dar atenção, porque ela vai querer atenção. Não adianta dizer “não assista TV, não use o celular” e não dar uma alternativa. E essas alternativas, normalmente, eles acabam procurando os pais. Pelo menos aqui em casa acontece bastante. Então, tem desde isso até a questão de deixar e nem controlar, nem acompanhar, não assistir junto, não ver o que a criança está assistindo, se é adequado para a idade dela. E mesmo algumas coisas que são classificadas como (33:43) sendo adequadas, Guilherme, eu julgo extremamente inadequadas. Então, há algumas coisas que estão dentro da faixa etária dos meus filhos e, no entanto, eu vou lá e veto. “Olha, isso aqui está na faixa etária, mas não interessa, não vai ver isso aqui”. Já outras coisas que até têm um certo nível de violência, por exemplo, Star Wars… quem já assistiu a todos os filmes aí, tem cabeça sendo cortada, tem umas coisas meio… o Anakin sendo queimado num mar de lava. (34:23) O Conde Dookan perdendo a cabeça. O cara cruza os dois sabres. Cortar braço até vai, mas cortar a cabeça é ruim, cara. Cortar braço é tranquilo. (34:41) É com sabre de luz, já cauteriza. Não tem sangue. Exato. Agora, a cabeça rolando é dose. Embora seja uma coisa meio disfarçada, mas rola a cabeça. Mas, assim, eles assistem com a gente, assistiram Star Wars com a gente. Talvez alguém vá discordar de mim: “ah, não deveria ter deixado assistir”. (34:57) Então, tem certas coisas… Eu, quando era criança, assisti a muita coisa violenta, porque meus pais não estavam filtrando o tempo todo. É, mas acho que eram outros tempos também. Mas eu vi muita coisa que não deveria ter visto. (35:17) Mas quero dizer que tem esse aspecto do cuidado por parte da família, que é extremamente importante, por mais controles que tu tenhas à disposição para limitar acesso a conteúdo. Por outro lado, aquilo que eu já falei, das big techs terem que dar recursos para os pais. Mas esse outro aspecto que me chamou a atenção na lei, que olho talvez com um viés mais de pai, e também pelo lado da TI, é essa necessidade, Guilherme, das empresas controlarem o acesso ao seu serviço. E aí, ouvi (36:04) o The Hard Fork, o podcast sobre tecnologia do New York Times, que já recomendei mais de uma vez aqui. Eles gravaram um episódio, acho que foi o 147, comentando sobre uma lei que entrou em vigor no Reino Unido. O título é: “The internet wants to know how old you really are”. (36:29) “A internet quer saber qual é realmente a sua idade”. E o que eles estavam discutindo? Lá no Reino Unido, para entrar em site com conteúdo pornográfico, conteúdo adulto, tem que haver uma identificação por meio de documento oficial de que tu és maior de idade. (36:59) E eles estavam comentando, teve um abaixo-assinado com mais de 400.000 assinaturas contra essa lei. E eles mesmos se posicionaram contra a lei pela forma como é necessário provar a idade por um documento oficial. (37:23) Sem julgamento moral, pode ser que, entre vocês que nos ouvem, há aqueles que vão dizer: “Ah, quer acessar? Se tem vergonha, então não acessa. Não tem que esconder”. (37:41) E vai ter outros que dizem: “Não, eu tenho meu direito à minha privacidade”. Aí começa a discussão: “mas e as crianças?”. Bom, nesse caldeirão todo, o que o pessoal se posicionou contra, lá no The Hard Fork e esses mais de 400.000 britânicos, foi o fato de ter que se identificar com um documento oficial. (38:07) Mas não é o que foi colocado aqui, no nosso caso. E aí fica evidente o problema. O primeiro problema é no momento que tu começas a ter pessoas sendo identificadas por documentos oficiais e um registro de “tal pessoa usou tal aplicação”. (38:29) E notem, não quer dizer que seja só para conteúdo adulto, é para qualquer conteúdo impróprio para crianças e adolescentes. Então, de repente, tu podes estar acessando algo que é impróprio para criança e não é um conteúdo que envolve sexo, mas pode ser um conteúdo ao qual tu não queiras estar vinculado por causa do país em que moras, por causa das ideias e crenças de quem está à tua volta. Tem várias questões aí que atingem a privacidade de cada um. E a gente sabe (38:58) muito bem que essa história de “vou guardar, não vou mostrar para ninguém”, cara, vai vazar. Assim como vazam as senhas, vão vazar esses eventuais registros em que o pessoal vai dizer: “ó, o Vinícius esteve aqui acessando um Reddit sobre falando mal do Trump” ou coisa parecida. E daqui a pouco vai estar lá vinculado o meu nome àquele acesso. Isso no Reino Unido. Aqui no Brasil não se colocou essa situação (39:38) de ter que identificar por meio de documento oficial, mas é necessário ter algum mecanismo para impedir que crianças e adolescentes acessem esses sites. Até depois a gente vai comentar aqui uma possível solução. Na verdade, mais para um exercício mental, para entendermos os problemas dessas soluções. (40:02) E essa do Reino Unido tem um baita de um problema. É, eu acho que são aquelas escolhas que nós vamos fazer enquanto sociedade. A gente se acostumou que ambientes muito impróprios se criassem sem levar em consideração os interesses das crianças no mundo inteiro. (40:27) Nossa vida atual, dos adultos, se acostumou com isso. Qual foi o caminho que o legislador brasileiro achou? Muito além da pornografia, aplicar esse controle de idade para conteúdos marcados com uma classificação indicativa imprópria para aquela faixa etária. (40:50) Evidente que você tem, como comentou, uma preocupação de privacidade e proteção de dados, e eu diria que ela é bem legítima. Porque se você for falar em consumo de pornografia, as pessoas vão consumir conteúdos muito diversos, e, eventualmente, na maior parte das vezes, não vão querer ter um registro de que “fulano está vendo tal conteúdo”. E a pornografia, desde que realizada por adultos, com consentimento, não é uma atividade (41:21) ilícita. Mas lembrem-se, nós, adultos, montamos um mundo que é muito favorável para nós, só que temos crianças no mundo que são pessoas também. Esse é o primeiro ponto. Esses mecanismos, e a lei fala sobre vários conceitos abertos, em algum momento serão regulamentados. Mas temos “mecanismos confiáveis de verificação de idade”, vedada a autodeclaração. O primeiro ponto é: começou a acontecer no Reino Unido, as pessoas começaram a migrar para VPN. (41:58) E aí teremos, em alguns casos, várias aplicações que podem começar a bloquear o acesso àquele conteúdo por VPN, sob pena de eventualmente sofrer uma sanção do Estado se a VPN for um caminho para burlar a verificação de idade. O governo pode intervir. (42:20) E aí, acho que essa é uma chave que, se for bem feita, pode resolver o problema. Já te passo a palavra. O artigo 11 fala que o governo pode servir como regulador и certificador. E os provedores de loja de aplicações, e essa é uma questão que achei bem interessante, devem implementar soluções que sejam auditáveis. E aí tu tens todo um problema, porque, e dando um spoiler do que você vai falar, a criptografia nos ajuda aqui, mas ao mesmo tempo posso ter um embate entre auditabilidade e preservação da privacidade em (42:55) mecanismos de autenticação de idade. De qualquer forma, eles devem disponibilizar isso junto com mecanismos de supervisão parental voluntários e as lojas ainda devem disponibilizar APIs para lidar com o que eles chamam de “sinal de idade”, levando em consideração o princípio de proteção de dados da minimização. (43:18) Eles falam isso várias vezes: “esse negócio da idade só pode ser usado para verificar a idade, não pode usar para mais nada”. A pergunta que se coloca, e a própria autoridade de nome gigante, (43:38) a Autoridade Administrativa Autônoma de Proteção de Crianças e Adolescentes no Ambiente Digital, essa autoridade também vai poder avaliar a efetividade dessas ferramentas. (44:01) E aí, claro, vão ter sempre aqueles: “ah, mas o Estado está se envolvendo demais”. Ora, quando falamos em crianças, o Estado vai ter que se envolver de alguma forma. A questão é até que ponto ou como. Essa é a pergunta. Tem alguma forma de resolver isso quase como um “zero knowledge proof”? Ou seja, mecanismos de identificação ou de sinal de idade que preservem a privacidade e a proteção de dados? (44:32) Guilherme, isso é algo que… Primeiro, temos vários protocolos para esse tipo de problema já bem documentados em várias obras, não só artigos científicos, mas livros da área da Ciência da Computação, mais especificamente na área de Segurança. (44:57) Mas vou fazer um exercício aqui, arriscando ser um pouco leviano, para pensarmos um pouco nas implicações desse tipo de solução. A do Reino Unido, obviamente, fica muito claro que há um problema no momento em que você tem que, de alguma maneira, apresentar um documento oficial ao acessar o site. (45:16) Porque não se trata de entrar numa boate, numa festa. Tu chegas lá, mostras tua identidade, a pessoa olha, vê que tu tens a idade mínima e tu guardas a identidade no bolso. Ela esquece da tua identidade, tu entras e acabou. (45:39) Costuma-se dizer que isso é autoverificável. Sim, mas imagina que tu tenhas que apresentar um documento. A pessoa na portaria vai ver o documento, não vai manter registro nenhum, tu vais entrar e acabou. Agora, num site que tu vais entrar, num serviço que vais utilizar, certamente essas empresas vão querer manter um registro para poder dizer: “Ó, eu verifiquei, tá? E não venham me acusar de que deixei um (46:07) menor entrar”. Não, ele apresentou uma identidade para mim. E aí eu preciso, de alguma maneira, manter um registro disso. Então, no caso do Reino Unido, isso é muito ruim. Uma outra possibilidade seria… Primeiro, quem tem nossos dados? Quem sabe quem nós somos, quando nascemos? (46:31) O governo sabe. E confiamos nossas informações ao governo, muito embora saibamos que tem muita informação vazada por aí. O governo consegue, por n situações, pelos próprios serviços públicos e pelo regramento que temos, é necessário que a gente dê prova de vida, compareça presencialmente em vários órgãos, em várias situações, desde o registro do nascimento (47:08) até o óbito e tantas outras coisas. INSS também, com as provas de vida. Isso, exatamente. A questão do título eleitoral… a gente até falou isso do escambo do TSE com o Serasa, num episódio dos primeiros anos do Segurança Legal. (47:30) Por que o Serasa se interessa tanto por uma possível integração em que possa perguntar ao TSE: “essa pessoa aqui está viva?”. Porque o TSE sabe isso. De dois em dois anos, a pessoa aparece lá, mantém o título ativo. (47:54) Se ela está na faixa de idade em que o voto é obrigatório, se não votar, terá que justificar. Então, ela vai dar sempre um sinal de que está viva a cada dois anos. O governo tem esses dados. Então, uma possível solução para te mostrar… e me preocupa mais na questão de sites, Guilherme. Porque em loja de aplicativo, as oficiais, pelo menos, a App Store e a Play Store, (48:26) para criar uma conta lá, tem que ter uma conta no Gmail, um cartão de crédito. Tem uma certa barreira de identificação. (48:45) No mínimo, o pai ou a mãe tem que entregar o cartão de crédito para botar na loja. No mínimo isso. Então, me parece um ambiente um pouco mais controlado. Vamos ver como vai ficar se eventualmente a EA Games ganhar o processo contra a Google e outras coisas que estão rolando para ter outras lojas de aplicativo dentro das plataformas da Apple e do Google. Mas isso é outra história. (49:12) Me parece um ambiente mais controlável do que um site na internet. E para um site na internet em que tu não tens um cadastro prévio, que tu queiras acessar de maneira anônima, talvez a solução seja tu poderes emitir, assim como fazemos uma assinatura com o GOV.BR, um documento ao portador. Que significa isso? Que não tem nenhuma identificação minha, mas que eu consiga chegar no GOV.BR e dizer: “Eu quero um documento ao portador que diga que o (49:51) portador deste documento tem mais de 18 anos”. Não diria nem a idade, só diria que é um adulto. E aí eu posso apresentar esse documento no site no momento de entrar. Claro, gente, estou falando de algo assinado digitalmente. Agora vou entrar. (50:13) Estou colocando isso de uma maneira muito simples, para que a ideia fique clara. É claro que o site onde eu vou entregar esse documento tem que ter alguma maneira de verificar, de atestar que esse documento é verdadeiro, é válido. (50:31) E foi emitido por alguém em quem ele confia, no caso, o governo brasileiro. E seria trivial para o site verificar a assinatura do documento que está recebendo, e essa assinatura teria que valer aí uns 5 minutos. Esse documento teria um prazo de validade para usar. Fiz login com o documento, apresentei-o. (50:49) Esse documento não tem identificação nenhuma, nenhum vínculo com a minha conta. Eu o apresento para o site, o site registra lá, até pode guardar o documento: “tal usuário, acesso permitido com este documento aqui”. Eu não sei quem é a pessoa, não tenho dado nenhum que a identifique, mas sei que é um documento válido emitido pelo governo brasileiro. (51:13) E o governo brasileiro não armazenaria o documento assinado, assim como ele faz com os assinadores do… Isso aí. Exatamente. Lá no lado do governo, ele recebe a minha solicitação. Claro que vou ter que me identificar, porque ele vai ter que saber quem sou eu. (51:32) No momento em que ele emitir esse documento, ele não pode inserir no documento nenhum tipo de número, nada que esteja atrelado à minha conta. Qual é o problema disso? Se ele fizer isso e eu entregar esse documento a um terceiro, e esse terceiro armazenar e depois vazar, ou o governo perder os registros, o terceiro entrega o documento, ele não tem como saber quem é, mas o governo tem como desanonimizar. Ou seja, ele tem como pegar um identificador que eventualmente tenha colocado no documento gerado e que ele guarde, vinculado à minha conta no gov.br, por exemplo, (52:04) ele consegue saber, então, que “o Vinícius acessou esse site, acessou esse serviço”. Ele teria que resistir à tentação de assinar o documento para ti com a chave dele e esquecer, sem guardar qualquer referência de que assinou aquele documento. Repito, como acontece com o GOV.BR na assinatura de documentos. (52:31) Quando você assina um documento no Gov.br, e isso é um problema, às vezes, quando invadem o Gov.br das pessoas e começam a assinar documentos loucamente, a pessoa não consegue saber o que foi assinado. O governo não teria como guardar todos os documentos assinados, o que seria um absurdo, não seria esse o objetivo. Mas nenhum registro eles voluntariamente disponibilizam. (52:51) A questão é que a construção de “zero knowledge” disso deveria ser feita pela parte do governo, e o artigo 11 prevê essa possibilidade. É. Então, algo bem implementado nesse sentido, a meu ver, funcionaria muito bem. Mas claro, temos vários cuidados aí, desde o governo não poder desfazer essa anonimização sozinho, nem em conjunto com o site que está recebendo o documento. (53:24) Então, teria que ser uma coisa quase transparente. E não se pode usar o site que estamos acessando como intermediário. Nota que não é trivial fazer isso, por causa da maneira como o funcionamento da internet está estabelecido. Teremos que fazer algumas mudanças no navegador, com plugin ou com um protocolo que venha nativo no navegador. (53:50) Isso não é de uma hora para outra. Ninguém vai estar implementando isso no navegador porque o Brasil determinou, e todo mundo no mundo vai utilizar. Então, tem uma série de empecilhos, modificações de sistemas e tudo mais que vão impactar. (54:09) Esse é um recurso que deve existir no seguinte sentido: eu abro meu navegador, vou acessar um site que exige verificação de identidade. Meu navegador inicia um processo de conversa com o GOV.BR, que emite esse documento eletrônico dizendo “o portador deste documento, válido por 5 minutos, é maior de idade”, e aí o navegador apresenta para o site que estou acessando esse documento e me permite entrar. Só que daí temos várias situações. Por exemplo, de novo, se (54:49) os pais quiserem deixar os filhos acessarem, eles vão deixar os filhos gerarem essas identidades e vão acessar. E não duvide que alguém terá a ideia de criar um serviço para vender esses “passes”. É, mais uma vez, Vinícius, estamos tentando propor uma ideia que seja “privacy friendly”, porque você tem uma série de outras possibilidades, talvez até mais fáceis de implementar, que não são “privacy friendly”, como, por exemplo, autenticação biométrica (55:31) de todo mundo. Aí seria o pior dos mundos possíveis, porque daí é dado sensível. Agora, eu não sei se nós vamos, num exercício de futurologia, conseguir chegar nesse nível de especialidade. Acho que isso não vai rolar, porque você vai ter que ter uma complexidade também dos próprios provedores se disponibilizarem a fazer isso. E, a depender do tamanho do serviço, pode ser que ele não tenha nem meios para implementar isso. Claro, se for uma API, algo do gênero, mas não é uma certa pretensão querer que (56:06) todos adotassem uma ferramenta dessa. Com o modo como os Estados Unidos hoje estão lidando com esse tipo de controle, não acho que isso aconteceria, pelo menos não a curto ou médio prazo. É, aí entra essa questão. Mesmo nos Estados Unidos, alguns estados já começam a se preocupar com isso. (56:30) Só que, dada a situação que temos lá, dessa proximidade das big techs com o governo Trump e essa tendência do Trump de meio que ignorar certas regras… embora aí tenha umas agendas que entram em conflito. Porque os apoiadores do Trump acabam tendo um certo interesse por essa pauta, por causa da proteção das crianças, e aí acaba existindo um conflito ali, muito embora as big techs tenham um apoio, uma proximidade muito grande para impactar nessas (57:08) regras, nessas regulamentações. Vamos falar um pouquinho, bem rapidamente, sobre as outras questões, as questões maiores aqui. Inclusive, novas obrigações sobre a disponibilização de mecanismos de supervisão parental. Vai ter que se disponibilizar ferramentas para essa supervisão, mais ou menos aquilo que você tinha falado antes, Vinícius, lá da Steam. Coisas do tipo avisar que tem supervisão parental na conta, monitoramento e limitação do tempo de uso, por exemplo. Isso é bem interessante, me agrada essa ideia. (57:45) Também, as configurações padrão das ferramentas devem limitar os recursos que aumentariam esse uso artificial, como reprodução automática de conteúdo, feed infinito e recompensas pelo tempo de uso. Isso fala especificamente lá. Estabelecer… que é um grande problema. (58:10) Inclusive, prevê-se a possibilidade de revisão das ferramentas, sobretudo de algoritmos de recomendação, com especialistas e órgãos competentes, o que também gostei bastante. Ou seja, vamos botar um grupo de especialistas e começar a discutir formas de melhorar esses algoritmos. (58:30) Claro, mais uma vez, como esses algoritmos são “black box”, precisaríamos ter aí uma boa vontade das plataformas, o que, no mundo ideal, não sei se aconteceria. Identificar perfis de adultos com quem a criança pode eventualmente estar se comunicando ou bloqueá-los. E também alguns controles sobre jogos eletrônicos. (58:50) Isso é outro assunto, que acaba entrando aqui também, mas acho que daria só um episódio para falar sobre controles em jogos eletrônicos. Depois, tem o problema da publicidade digital. E achei bem interessante essa parte. Publicidade para crianças e adolescentes é uma grande questão no estudo do Direito. (59:09) Já estudei, já escrevi sobre isso, inclusive um artigo sobre publicidade no YouTube. E eles estão indicando que será proibido o “profiling” de crianças, bem como análise emocional, uso de realidade aumentada e estendida para publicidade. E é aqui que entra a regulação do fato que deu origem a toda esta rediscussão da lei. Porque foi o vídeo lá do Felca que trouxe os vídeos daquele outro cara, o Ítalo Santos, que hoje está preso junto com o marido dele, que de alguma forma monetizava conteúdos sensuais de crianças. E é aqui que (59:48) entra a regra que lidaria com o problema que deu origem a toda esta rediscussão. Diz o artigo 23 que “a monetização e o impulsionamento de conteúdos que retratem crianças e adolescentes de forma erotizada ou sexualmente sugestiva ou em contexto próprio do universo sexual adulto”. (1:00:06) Veja que interessante, é a regra para lidar com aquele problema. Bem específico, inclusive. Mas não envolveu outros tipos de eventual violência psicológica, como vimos acontecer com o caso da Bel, que, inclusive, recentemente, teve seu canal apagado pelo YouTube. Chorou na internet, mas o canal foi apagado. (1:00:27) O canal foi apagado e ela disse que perdeu todos os vídeos. A gente já falou sobre esse caso, ficou bem conhecido e também foi mencionado no vídeo do Felca. Isso é uma coisa cruel, e a responsabilidade é dos pais dela. Porque, como comentávamos um pouco antes, Guilherme, querendo ou não, é a realidade dela. Foi a vida dela durante uma parte importante. E isso afeta a pessoa psicologicamente e emocionalmente. (1:00:55) Não estou dizendo que não deveria ter sido apagado ou que os dados não deveriam ter sido entregues a ela e a conta apagada. Não sei exatamente em que termos isso foi feito. Mas me parece que, no caso, ela é a vítima. Me parece não, ela é a vítima. Porque quem monetizou em cima da pessoa dela, em cima da infância dela, foram os pais. (1:01:26) E, claro, depois a criança não vai… óbvio, ela gosta dos pais, são os pais dela. Ela não vai ficar dizendo: “Olha o que fizeram comigo, que coisa horrorosa”. É a vida que ela conhece, foi a bolha na qual ela foi educada. (1:01:43) E ela entende que isso estava correto, que estava OK, que os pais dela só queriam o melhor para ela. E, no entanto, ela não enxerga o problema. E é justamente por isso que precisa de alguém de fora. Se os pais não conseguem ter equilíbrio ou entendimento suficiente para saber que o que estão fazendo com os próprios filhos é inadequado, aí a lei entra и protege a criança e o adolescente, como em outras situações, Guilherme. É. E a Bel teve (1:02:17) cenas que, por favor, né, cara. Depois, a mãe e o pai se colocaram como vítimas. Vítima é ela. A mãe e o pai são adultos, deveriam saber o que estavam fazendo. E é um grande problema para ela também, porque, mesmo que não seja a melhor forma de construção de uma identidade, aquele canal também compunha a identidade dela, mal ou bem. Exatamente. E, veja, eu não concordo com a (1:02:53) natureza do conteúdo, mas, ao mesmo tempo, também não sei se apagar tudo o que tinha lá não pode ser problemático. Enfim, a ideia do melhor interesse da criança. E monetizar esse tipo de conteúdo também é uma violência não somente para ela, mas para a imagem de todas as crianças. (1:03:22) Por isso que temos, inclusive, crimes de simulação de pornografia infantil. Ou seja, produzir imagens simuladas também é crime. Por quê? Porque não é só uma questão daquela criança violentada eventualmente, é uma questão de você afetar a imagem de todas as crianças. Depois, temos algumas questões de rede social. (1:03:41) Uma sugestão que eu daria, Guilherme, é o juiz aplicar uma multa para os pais da Bel equivalente ao que eles recolheram. Cara, eu fico imaginando fazer com meus filhos o que os pais, o que a mãe dela fez com ela. Eu me sinto mal só de pensar. Cobrar uma multa, botar a grana num lugar que vai estar disponível para ela. Não sei que idade ela tem agora, se já tem 18 anos ou não. Não, acho que não. (1:04:05) E deixar disponível para ela, não deixar eles usarem a grana, pelo menos até ela ser maior de idade. É, mas nota que o peso todo vai cair em cima das redes. Você tem o elemento do pai, porque o pai não é dono da imagem do filho. (1:04:23) Esse é um negócio bem importante também. O poder familiar dele deve ser exercido em benefício do filho. Então, para além dos reflexos no Direito de Família e eventuais limitações desse poder familiar, a rede vai ser responsabilizada. Esse é o ponto. Por exemplo, para redes sociais, abaixo de 16 anos, a conta deve ser vinculada a um responsável. Também me parece interessante. Eles vão ter que monitorar e confirmar a identidade se a conta demonstrar indícios de que pertence a uma criança. Ou seja, para além daquela identificação de idade, ainda vão ter que monitorar (1:04:52) para saber se encontram algum comportamento para identificar se é uma criança ou não. Veja, sem poder fazer “profiling”, o que deixa a coisa bem mais difícil. Depois, toda uma série de medidas de prevenção e combate a violências ou violações no ambiente digital. E as redes devem disponibilizar mecanismos de notificação, ou seja, ter lá um formulário para você indicar a notificação. Só que tem um baita de um problema aqui também, Vinícius: a rede vai ser obrigada a (1:05:27) retirar o conteúdo assim que for comunicada. Por quem? Pela vítima ou seus representantes, pelo Ministério Público ou por entidades representativas dos direitos das crianças. Tem algumas bem famosas no Brasil que entraram, inclusive, em uma série de leis. (1:05:50) Então, sem ordem judicial. Só que o autor da denúncia deve ser identificado, vedada a denúncia anônima. Ou seja, o notificante tem que se identificar para denunciar. Me parece que essa é uma medida… talvez, se o cara não tiver os recursos que o Felca tem para poder ter advogado trabalhando, carro blindado e não sei o que mais, aí não notifica. (1:06:24) Aí fica quieto, não notifica. Porque, para retirar do ar sem ordem judicial, o autor da notificação deve ser identificado. E, pior não, mas mais ainda, os responsáveis pela plataforma devem ter mecanismos de contestação da decisão. Isso é bom. Ou seja, se há algum bloqueio ou retirada do ar, a rede social tem que explicar para a pessoa por que foi retirado e permitir algum tipo de defesa. Mas eles preveem também a possibilidade de punição para uso abusivo dos instrumentos de denúncia. (1:07:00) E aí eu achei isso meio delicado. Vou fazer uma denúncia, mas, ao mesmo tempo, tenho que me identificar e posso ser sancionado por um uso abusivo. Claro, qualquer exercício abusivo de qualquer direito pode constituir um ato ilícito, pelo artigo 187 do Código Civil. (1:07:23) Mas eu notei que isso aqui tem uma cara de que pode dar problema. Pessoas eventualmente serem perseguidas porque fizeram uma notificação. Enfim, talvez até para um “chilling effect”, para você não notificar sem se identificar. Tipo: “como você descobriu isso aqui?”. Por que você viu isso? Sei lá. (1:07:46) Me preocupou um pouco essa regra aqui. Depois, eles vão ter que ter uma série de regras de transparência, prestar contas, quantos perfis foram bloqueados, quantas denúncias receberam, o papel de governança dessa autoridade administrativa e algumas sanções que podem chegar até multas de R$50 milhões por infração. (1:08:10) A gente vê a multa de R$50 milhões e se anima: “Bom, agora o Brasil vai…”. Só que temos que ver que nosso histórico recente em relação à LGPD… essas multas não foram aplicadas. O cenário atual de desrespeito à proteção de dados no Brasil… essas multas não estão sendo aplicadas. O cenário atual está mais no sentido de uma lei que “não pegou” do que algo que leve o mercado a querer respeitar a lei por risco de ser autuado. (1:08:43) Eu diria que é uma lei que pegou parcialmente. Parcialmente, você tem uma série de coisas sendo feitas, mas também uma série de elementos… parece uma aplicação tanto quanto superficial. Você olha os debates na União Europeia e olha os debates aqui, não tem comparação. Por exemplo, essa coisa de reconhecimento, biometria facial espalhada por condomínios pelo Brasil inteiro, que já falamos aqui. Mas estou desviando do assunto. Enfim. E, no final das contas, Vinícius, outras (1:09:17) disposições. Achei bem interessante: embalagens de equipamentos eletrônicos deverão conter adesivo com informações sobre a proteção de crianças. Isso envolve o papel da rotulagem em produtos. Inclusive, tem algumas coisas escritas sobre rotulagem no Direito do Consumidor. (1:09:38) É um tema que gosto bastante. A rotulagem serve também como publicidade. Ou seja, o que está no rótulo pode ser visto como publicidade, serve como informação fornecida pelo fornecedor. E agora uma nova rotulagem, talvez de uso para criança, classificação etária, cuidados e tal, vai ser uma coisa bem legal, me parece. (1:10:05) E para terminar, uma “vacatio legis”, que chamamos no Direito, ou seja, depois da sua aprovação, ela entra em vigor depois de um ano para que todo mundo tenha tempo para se adequar a todas essas regras, que são muitas, e muitas delas ainda terão que passar por regulamentos para explicar como serão cumpridas. Perfeito, Guilherme. (1:10:24) Vou terminar o episódio 400 sem voz. Olha só, talvez seja um bom sinal. Você falou tanto nos 400 episódios que ficou sem voz. Não, eu tenho que dar uma aula hoje, cara. Quero só ver como vou fazer isso. Vou ter que… / Coma uma maçã. / Já fiz isso. / Chazinho com mel. / É. Tem que ser. E usa um microfone, se tiver à disposição, ajuda. (1:10:48) É, numa dessas, usar um microfone resolve. Vamos terminando. Bora. Eu terminei. Então vamos lá. Agradecemos então, Vinícius, a todos aqueles e aquelas que nos acompanham por 400 episódios. Mais uma vez, este podcast é feito para o ouvinte. Claro, fazemos porque gostamos, mas o objetivo sempre é agradar o nosso ouvinte. (1:11:17) Então, esperamos que tenhamos conseguido aí, nesses últimos 13 anos, Vinícius. A gente insiste em gravar o Segurança Legal. Então, terminamos este episódio aqui com muita felicidade, mandando um abraço para todos e todas que nos acompanham nesses 13 anos de Segurança Legal. Tá bom? Então, até a próxima. Até a próxima. | — | ||||||
| 8/12/25 | ![]() #399 – Adultização, poisoned documents no ChatGPT e a PNSI e a E-Ciber brasileiras | Neste episódio comentamos o vídeo de Felca sobre exploração infantil, a regulação das big techs, falhas no GPT-5 e os novos decretos de cibersegurança do Brasil. A discussão parte do vídeo “Adultização” de Felca, que expõe a exploração infantil e a sexualização em redes como Kwai, levantando o debate sobre a responsabilidade das big techs e a regulação de conteúdo. Abordamos também falhas de segurança em IAs, como o prompt injection no ChatGPT e o jailbreak do GPT-5. Além disso, analisamos os novos decretos que instituem a Política Nacional de Segurança da Informação (PNSI) e a Estratégia Nacional de Cibersegurança (E-Cyber), que fortalecem o papel do GSI e a educação em segurança digital na sociedade. Para não perder análises aprofundadas sobre tecnologia e direito digital, siga, assine e avalie nosso podcast na sua plataforma preferida. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Vídeo Adultização Vídeo – Felca passa a andar em carro blindado com seguranças após receber ameaças Quem é Felca, youtuber que denunciou ‘circo macabro’ de Hytalo Santos e a adultização de crianças? Núcleo – Kwai está infestado de conteúdo que sexualiza menores Núcleo – Instagram permite bots de IAs que sexualizam e infantilizam mulheres Núcleo – Kwai e TikTok têm dificuldade para moderar conteúdos com exploração sexual de menores Aos Fatos – Investigado pelo MPF, Kwai lucra com lives que expõem crianças a assédio e chantagem A Single Poisoned Document Could Leak ‘Secret’ Data Via ChatGPT Blackburn, Blumenthal Urge Meta to Shut Down Instagram Map Feature to Protect Kids from Pedophiles & Traffickers Bipartisan senators call for Instagram to shut down its new map feature, citing children’s safety concerns Red Teams Jailbreak GPT-5 With Ease, Warn It’s ‘Nearly Unusable’ for Enterprise DECRETO Nº 12.572, DE 4 DE AGOSTO DE 2025 –Institui a Política Nacional de Segurança da Informação e dispõe sobre a governança da segurança da informação no âmbito da administração pública federal. DECRETO Nº 12.573, DE 4 DE AGOSTO DE 2025 – Institui a Estratégia Nacional de Cibersegurança. Imagem do Episódio – Gin Lane (1751) de William Hogarth 📝 Transcrição do Episódio (00:01) [Música] Bem-vindos e bem-vindas ao Segurança Legal, episódio 399, gravado em 11 de agosto de 2025. Vinícius, 11 de agosto é o dia do advogado, o dia da advocacia. Então, um grande abraço para todos os advogados e advogadas que nos escutam. Eu sou o Guilherme Goulart e, junto com o Vinícius Serafim, vamos trazer para vocês algumas das notícias das últimas semanas. (00:28) E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá aos nossos ouvintes. Esse é aquele momento, você já sabe, de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Pegue o seu café e venha conosco. Para entrar em contato com a gente, você já sabe, basta enviar uma mensagem para podcast@segurançalegal.com ou para o Mastodon, Bluesky e YouTube, onde você pode ver a gravação deste episódio. Pedimos que você também nos apoie pela campanha de financiamento coletivo no apoia.se/segurançalegal, onde você pode escolher sua modalidade de apoio e contribuir para um projeto livre e desimpedido de produção de conhecimento. (01:11) É isso aí. Fiquei despreparado. É que você fala essa parte e eu abstraio. Espero você terminar de falar para começar, e você me solta um “Vinícius”, me quebra no meio. Mas o apoio é importante, é isso aí. O apoio é importante e a divulgação que você faz do podcast é, sem dúvida nenhuma, também de grande importância. Então, compartilhe e divulgue o Segurança Legal, recomende o Segurança Legal. (01:45) Até porque, Vinícius, não é todo episódio que chega, se tudo der certo, aos 400 episódios. É um corpo de conhecimento que não é simples de produzir. Então, ajude os velhinhos aqui. Isso é por sua conta. Sobre o episódio 400, já avisando o pessoal, talvez ele não saia na semana que vem. (02:11) Não é certo que vai sair na semana que vem. Talvez não saia. Eu e o Guilherme estávamos conversando mais cedo e talvez… Vamos ver como fica o ajuste das agendas de gravação para o episódio 400. Mas vamos conversar aqui e ver como faremos. Então, talvez não saia na segunda-feira, mas vamos ver. (02:34) Bom, a gente vem de uma abertura mais alegre, como sempre, para um tema mais chato, para dizer o mínimo, e grave. Na minha opinião, é difícil de falar. Para quem tem filhos também é difícil de falar e de ouvir. Fiquei especialmente incomodado com essa história, mas temos que tratar aqui porque é um tema do qual falamos com bastante frequência: o papel das crianças, de maneira geral, na internet. (03:04) Temos falado sobre esses temas desde o início do podcast Segurança Legal. Temos vários episódios sobre crianças na internet, internet dos brinquedos e por aí vai. Nos últimos dias, viralizou o vídeo de um influencer que eu confesso que não conhecia, um tal de Felca. O apelido dele é Felca. Um vídeo chamado “Adultização”. (03:44) Nick, obrigado. “Adultização”. Foi publicado há quatro dias e já tem 27 milhões de visualizações, o que é um feito incrível em outra perspectiva, Vinícius, porque é um vídeo de 49 minutos. Nós, que fazemos conteúdo longo, sabemos como a organização atual do conteúdo na internet privilegia muito mais os microconteúdos. Então, já é uma vitória o cara fazer um conteúdo longo, viralizar e ter essa atenção. E esse vídeo do Felca joga luz sobre um tema que a gente já sabia, que já tínhamos falado aqui, que é a forma inadequada… Não especificamente sobre a questão da sexualização de crianças, acho que não tocamos muito nesse tema. (04:25) Mas sobre como a infância vem sendo mal cuidada na internet e como as crianças vêm sendo mal retratadas ou até mesmo usadas por adultos em contextos nos quais elas não deveriam estar participando. Logo no início do vídeo, e já te passo a palavra, Vinícius, ele fala sobre um caso da “Bel para Meninas”. Era uma influencer mirim. Eu até tive a oportunidade de analisar esse caso. (05:02) Estava vendo antes aqui, num capítulo de livro sobre publicidade e proteção da infância. O capítulo que escrevi junto com minha colega Mariana Mena Barreto Azambuja, no qual falamos mais especificamente sobre publicidade, porque a questão lá da Bel não tinha a ver com aspectos sexuais, mas com uma menina que era colocada em situações vexatórias pela própria mãe. Isso veio à tona. (05:39) Depois, quando tomou um corpo maior, o canal saiu do ar, os pais foram hostilizados, se desculparam e, depois, não acompanhei mais o que aconteceu. Mas o que esse Felca trouxe foi jogar na cara de todo mundo — e eu falo de nós, pessoas comuns, mas também das autoridades — o que algumas pessoas têm feito com a imagem, principalmente de meninas. (06:04) É, Guilherme, o que ele traz tem um mérito muito grande. Fiquei bastante feliz de ter visto alguém com o alcance dele fazer algo assim. Porque o que ele traz, infelizmente, não é novo. Como você mesmo falou, temos coisas de alguns anos atrás em que já começávamos a perceber esse tipo de conteúdo aparecendo na internet. Naquele momento em que gravamos sobre a “Bel para Meninas” e crianças na internet, o que mais chamava a atenção era essa exploração por parte dos próprios pais, expondo as crianças. E comecei a ver gente, moro em Três de Maio, cidade pequena com 24 mil habitantes. (06:48) E comecei a ver pessoas fazendo as mesmas coisas. Isso há anos. Hoje já deve estar bem mais adiantado, eu não acompanho, então não fico sabendo. Mas as famílias começaram a pegar a modinha, naquela época, antes da pandemia, de criar conteúdo usando os filhos. Com uma dessas crianças, cheguei a conviver rapidamente em um determinado ambiente. (07:18) Não foi na escola. E vi a criança se comportando como se fosse um miniartista, no trato presencial, sem câmera, sem nada, já se comportando como se fosse uma celebridade. (07:41) Então, isso mexe bastante com a cabeça das crianças e as expõe de maneiras que, muitas vezes, não são muito previsíveis pelos próprios pais, até por ignorância mesmo. E aí, por várias vezes, a gente viu aquele discurso de que tem que quebrar a criptografia para sair catando pedófilo. (08:06) Falamos sobre isso em várias oportunidades aqui no Segurança Legal. O pessoal dizendo que temos que quebrar a criptografia para acabar com o crime de pedofilia, com a exploração infantil e coisas do gênero, criar portas dos fundos em sistemas para permitir que a polícia consiga fazer seu trabalho. (08:30) Guilherme, esse negócio de criança exposta na internet e, mais recentemente, a sexualização de crianças na internet, isso está para quem quiser ver. Tanto que ele mesmo mostra que cria uma conta e em menos de cinco minutos já está recebendo conteúdo de crianças sendo sexualizadas, nem digo adolescentes. Adolescentes, então, nem se fala. (09:04) E junto com isso, Guilherme, temos o seguinte: primeiro, está aí. Estão lá os nicks, o pessoal com “link na bio”, os links para a galera se encontrar e trocar material de pornografia infantil e tudo mais. Então, para quem quiser ver, temos outras coisas além. (09:30) Claro, isso é muito grave, não estou dizendo que se trata da mesma coisa. Mas é o mesmo estilo de situação. Temos os golpes sendo dados com ligações telefônicas, os caras com centrais telefônicas. Há pouco tempo prenderam uma galera. Era um call center, com mesinha, com pessoal trabalhando. (09:49) O trabalho dos caras é aplicar golpe nos outros. Eles usam centenas de linhas telefônicas e ninguém faz nada. “Ah, prenderam agora o pessoal”. Sim, mas eu continuo recebendo ligação. Chega a um ponto em que não quero atender telefone de um número que não conheço, porque o que vem dali é golpe. (10:07) É um outro crime feito às claras e vemos uma ação ou outra, mas o negócio não acaba, continua. E outro caminho que vemos também, Guilherme, ainda nessa questão dos golpes de telefone e da própria sexualização, é a questão que talvez seja crucial e que essa galera, vamos ver se abre os olhos agora, é para a necessidade da regulação do que essas redes sociais fazem. (10:43) Porque não há dúvida de que aquele conteúdo que o Felca mostra, e mesmo o conteúdo que se encontra ao navegar um pouco no Instagram, não é possível que os caras não sejam capazes de identificar aquilo e não é possível que aquilo não seja passível de moderação, de retirada do conteúdo quando tem criança sendo exposta dessa forma. (11:03) Esse é outro ponto para o qual ele chama bastante atenção como consequência do que faz. Fico bem feliz de ver alguém com o alcance que ele tem trazendo isso, não sendo mais um a explorar esse tipo de conteúdo. Pelo contrário, atacando esse tipo de conteúdo, dando nome aos bois e dizendo quem está fazendo, como está fazendo e tudo mais. (11:35) Agora, os defensores que estão preocupados com as crianças, vamos ver se estão preocupados mesmo. Vamos ver se vão agir. Aparentemente, agora estão. O presidente da Câmara dos Deputados já disse que vão se mexer por causa da repercussão. (11:55) Então que bom, que interessante. A grande mídia também está toda comentando sobre o Felca. Agora, é interessante que precise de um youtuber para conseguir levantar um negócio que está na cara de todo mundo e que já passou do tempo de ser tratado pelo nome que deveria. (12:21) Ele cita… confesso que não consegui ver tudo. Primeiro que, como já falei, eu não conhecia esse cara, não sei o que ele defende em outros vídeos. Também não conhecia esse outro influenciador que ele denunciou, esse tal de Ítalo Santos. (12:40) O que ele fala é algo que está aí para todo mundo ver. Ele começa falando, além do caso “Bel para Meninas”, do Kwai, que é uma rede social de vídeos. Inclusive, se você pesquisar, de vídeos “legais”. Eu já tive que ver o Kwai, estava escrevendo esses dias sobre publicidade em redes sociais, aí baixei o Kwai e já tinha tido essa mesma impressão. (13:12) Porque tanto o Núcleo Jornalismo quanto a agência Aos Fatos, que são dois órgãos de imprensa bem independentes, já tinham falado sobre a questão da sexualização de meninas no Kwai. Em 21 de julho de 2023, portanto há mais de dois anos, o Núcleo Jornalismo publicou: “Kwai e TikTok têm dificuldade para moderar conteúdo com exploração sexual de menores”. (13:43) E a Aos Fatos: “Investigado pelo MPF, Kwai lucra com lives que expõem crianças a assédio e chantagem”. Vinícius, acho que são duas coisas diferentes aqui. Primeiro, é ter crianças, sobretudo meninas, que elas próprias passam a produzir esse tipo de conteúdo. Às vezes com a aprovação dos pais, às vezes sem o conhecimento, às vezes com o apoio, sei lá. (14:09) Mas você tem a própria criança produzindo esse tipo de material porque ela está num meio em que isso passa a ser aparentemente natural. Então ela acha legal fazer isso, sem contar com nenhum tipo de filtro, bloqueio ou orientação dos pais. Outra coisa, que me parece ser o que aconteceu aqui, era um cara adulto, esse Ítalo Santos, que explorava as meninas sexualmente. (14:33) Voltando ao Kwai, é um negócio impressionante. Instalei ele de novo aqui. A gente estava até vendo antes pela internet. Bastam cinco minutos de navegação no feed deles. E eu falo com uma certa indignação porque, como podem não ter controle, não haver nenhuma política interna? Porque essas próprias redes sociais deveriam ter pelo menos um certo grau de responsabilidade social para fazer alguma coisa e evitar que esse tipo de conteúdo de meninas se sensualizando estivesse ali. (15:11) Não se consegue confiar no mínimo de responsabilidade social de uma empresa que permite que esse tipo de coisa esteja lá dentro porque dá view. São duas coisas diferentes, me parece, mas estão conectadas. Até a própria descrição do vídeo… Se você não viu, o próprio Estadão traz aqui uma descrição que ele coloca o seguinte: no vídeo, o Felca citou casos como o do influenciador paraibano Ítalo Santos, de 28 anos, conhecido nas redes sociais por ostentar uma vida de luxo e exibir sua rotina ao lado de crianças e jovens, que chama de “filhos”. (15:53) Pelo que eu entendi, é tipo um reality show. É, que as crianças ficam lá interagindo e aí são eliminadas. Tem uns lances. (16:04) Mas aí, entre eles, está o que eu acho que é o pivô dessa história, o que mais chamou a atenção das pessoas. E veja, acredito que a menina seja uma vítima nessa história toda. Está a adolescente de 17 anos, que é exibida nas redes por Ítalo desde os 12 e teve sua conta com mais de 10 milhões de seguidores no Instagram suspensa. (16:27) O influenciador também está sendo investigado pelo MP da Paraíba. Felca chamou o conteúdo de Ítalo Santos, explorando crianças, de “circo macabro”. Eu estava vendo uma reportagem agora de manhã no UOL e eles disseram que a rede saiu do ar não por causa das imagens das meninas, mas por conta de propaganda de bets, porque parece que ele faria, junto com esse “circo macabro” nas palavras do Felca, propaganda de bets. O que eu acho que também são outros dois problemas diferentes, embora conectados. (17:08) Um são adultos com interesses sexuais nesse tipo de conteúdo, consumindo este conteúdo. Ponto um. E depois, outras crianças e adolescentes consumindo esse tipo de conteúdo com uma certa naturalização dessas dinâmicas de poder que são apresentadas ali no vídeo. O que me surpreende, no final das contas, e acho que ele tem o mérito de furar a bolha… (17:47) Eu, por exemplo, embora já tivesse lido sobre o Kwai e soubesse que tinha esse tipo de conteúdo lá, porque saíram duas notícias em 2023 e 2024, que ficarão no shownotes, falando sobre isso. O que é surpreendente é ver os mundos na internet e a quantidade de coisas que você não imagina que estão acontecendo ali. (18:13) E não estamos falando aqui de deep web e fóruns fechados. Estamos falando de surface web, da internet aberta. E isso realmente é surpreendente. Aí chega no ponto da regulação, que a gente estava falando. O que eu acho que isso vai culminar, a partir de agora — e já estão falando em “Lei Felca”, acreditas? —, é que isso poderia ser também outro elemento no problema da regulação, na governança e no controle de conteúdo das big techs. Porque estamos agora, olha como as coisas começam a se conectar. (18:53) Estamos vivendo um cenário de sanções americanas nas quais, alegadamente, como falamos no nosso episódio passado, foram colocadas também pela preocupação dos Estados Unidos sobre a regulação ou sobre como o Supremo Tribunal Federal decidiria acerca da regulação das redes sociais. (19:21) Então, vem esse negócio agora. Porque o Hugo Mota, como você falou antes, aproveitou e disse que vai agir. O Hugo Mota no meio de um turbilhão político. E tudo isso entra nesse meio, o que deixa a coisa mais complexa ainda. (19:42) Quero ver os próximos capítulos disso aí, porque esse assunto não está isolado. Nós temos a questão da necessidade de regulação das redes sociais e dessas plataformas. É necessária essa regulação. Acho que se pode discutir os detalhes da regulação. (20:05) Isso é óbvio que é passível de discussão, exatamente como fazer ou quais são os limites. Isso, obviamente, tem que haver uma discussão. Mas não há discussão com relação a se deve ou não haver regulação dessas plataformas. (20:24) Tem que ter. Não é possível que eles não sejam capazes de detectar automaticamente esse tipo de conteúdo e derrubá-lo. Esse é um aspecto. O outro aspecto, Guilherme, que para mim está muito vinculado e já discutimos várias vezes, é justamente a questão do uso de tecnologia por crianças, a forma como a tecnologia é utilizada. (20:53) Quando você colocou a questão das crianças que fazem esse tipo de conteúdo por vontade própria, ou com a anuência, ou incentivadas pelos pais… Se for incentivado, não se fala, temos um problema para o Conselho Tutelar. Agora, a simples ausência de ação… (21:18) No final do vídeo do Felca, ele entrevista uma psicóloga. E ela é muito clara no sentido de: a criança quer ter acesso. Se você vai dar acesso para a criança a uma rede social, à internet de maneira geral, você tem que estar junto. Senão, é como largar a criança na Praça da Sé. Lá tem de tudo, é o que ela fala. (21:42) Tem as coisas boas e as ruins. Você não vai largar uma criança num lugar como a Praça da Sé sem nenhum tipo de acompanhamento. Então ela diz: “A criança vai usar a internet, você tem que acompanhar”. Não é questão de invadir a privacidade da criança, é questão de cuidado. (22:01) Há que se ter um entendimento cada vez maior com relação ao uso de tecnologia por crianças. Tem que haver um acompanhamento, não se pode entregar como os pais fazem, e não tem como ficar escondendo isso. Talvez muitos de vocês que nos escutam façam isso ou vejam pessoas fazendo: largar o celular na mão da criança para ela não incomodar no restaurante, na janta, no almoço. Tem criança que não come se não tiver com o celular na mão. (22:39) E acho que sim, pode levar a criança a usar o celular e a se expor na internet de maneira a se sexualizar? Não necessariamente, mas acho que é um caminho. Mas não é apenas a questão da sexualização. (22:56) E essa psicóloga fala, na parte final do vídeo do Felca, que a criança está construindo uma personalidade, ela está se construindo, e a maneira como ela se vê é muito importante. Quando ela começa a interagir com likes e dislikes, que as redes sociais são fabulosas em manipular essa entrega de dopamina, faz com que ela, a expressão que a psicóloga usa, construa uma identidade de fora para dentro. A partir do que se espera dela, a partir do que ela vê que causa um certo retorno, ela se molda àquilo, ao contrário de ser algo de dentro para fora. (23:39) Então, creio, dado o que já lemos na “A fábrica de cretinos digitais” do Demurger, e naquele outro livro, “Alone Together”. (24:02) Esse da Sherry Turkle veio antes ainda. Comentamos já em vários episódios há muitos anos, “Sozinhos Juntos”, que foi traduzido para o português. Fala justamente do uso da tecnologia e essa desconexão. E mais recentemente teve “A Geração Ansiosa”, que também fala desse efeito do uso de tecnologia sem uma tutoria ou orientação adequada por parte dos pais. Adianta as escolas terem proibido o celular? (24:40) Acho que ajudou. Proibiu o celular em sala de aula. E no intervalo, as crianças brincam mais. O efeito é positivo, só que é a escola tentando tapar o buraco de uma represa com um Band-Aid. O problema não é apenas na escola, talvez seja principalmente em casa. E criança dá trabalho. (25:07) Sim, criança dá trabalho. No momento em que você tem crianças à sua volta, elas exigem atenção. É muito fácil entregar um celular, deixar elas assistirem a uma coisa na TV, porque você fica com tempo para ler, para assistir a um filme, para não fazer nada. É muito cômodo. (25:32) Se me permite, Vinícius, sei que não quer dizer isso, mas não é só uma questão dos pais. Já falamos sobre isso várias vezes. Não podemos jogar todo o fardo de uma sociedade viciada em tecnologia e, de repente, dizer: “Pais, controlem isso”. Não é tão fácil para os pais também lidar com isso, seja porque não estão preparados ou porque realmente não conhecem. (26:04) Claro que há pais que são, de fato, não diria nem descuidados, mas não sabem dos males que tais coisas podem causar, como é o caso dessas meninas. Um pai e uma mãe que permitem que a filha participe daquelas dinâmicas que se vê no vídeo… (26:22) Poxa, tem algo muito errado na forma como os pais estão cumprindo seu poder familiar. Certamente aquele não é o melhor interesse da criança. Mas, ao mesmo tempo, os pais ficam no meio de um embate de uma sociedade construída para que as pessoas fiquem cada vez mais ligadas o tempo inteiro. E tirar as crianças artificialmente dessa demanda… (26:42) É como nadar contra a correnteza. Estamos cheios de analogias hoje. É você subir o rio contra a corrente, porque a corrente da sociedade inteira é para que você use. E aí vêm psicólogos, psiquiatras, professores e dizem: “Olha, as crianças não devem estar nesse ambiente”, o que é ir contra a corrente de tudo que acontece. (27:07) Então, estão lá os pais no caiaquezinho deles, remando, subindo o rio. Por isso que, e claro, não é tirar a responsabilidade dos pais, mas é colocar também em cima das big techs algum tipo de responsabilidade. (27:30) Não digo nem a responsabilização pelo conteúdo publicado, não chego nesse aspecto da decisão. Chego num tipo de moderação. Porque eles sabem, esse é o ponto, eles sabem que este conteúdo está lá. E os próprios, vamos dizer assim, pedófilos e gente que curte esse conteúdo, eles mesmos “flagueiam”, tornam muito fácil encontrar o conteúdo. Não precisa nem classificar os vídeos em si. (28:03) Basta olhar os comentários, ir atrás dos comentários. Muito embora, e o Felca aponta isso, essas pessoas utilizem publicações que estão no limiar, que ainda não são algo sexualizado, mas é um conteúdo que chegaria em quem está procurando ver crianças. (28:32) E aí o pessoal começa a utilizar a caixa de comentários dessa publicação como ponto de troca, ponto de encontro entre a galera. Ponto de troca de quê? Para quem não assistiu ao vídeo, ponto de troca de conteúdo pornográfico infantil. Então, é estranho, Guilherme, que essas plataformas se digam incapazes de monitorar esse tipo de conteúdo ou que não tenham responsabilidade nenhuma sobre ele. (29:03) Será que os usuários vão ter… Considerando a capacidade técnica que esses caras têm de fazer o processo de detecção e remoção, eles esperam o seguinte: vão publicar o que der na telha, não vão tomar cuidado nenhum e vão esperar… que foi o que o Zuckerberg falou no episódio que gravamos no início do ano. (09:30) Não que ele veio no Segurança Legal, mas no episódio em que citamos o que ele falou. Ele disse que ia acabar com os processos de moderação porque a própria comunidade ia regular. Cara, vai se catar! (29:56) Se ele acha que a criança, ao usar a ferramenta dele, tem que ficar apontando o que é inadequado… Não é possível que ainda se tenha uma discussão sobre ter que moderar ou não. Tem que moderar. Repito, pode-se debater os termos da moderação, como exatamente isso vai ser feito, mas tem que ser feito. (30:19) A própria responsabilidade das empresas… São graus… O tema, e você falou isso lá no início, é bom destacar: quando você usa a proteção de crianças para falar de regulação de qualquer coisa, a coisa fica muito complexa. Porque, por um lado, quem vai ser contra a proteção dos interesses das crianças? Ninguém, talvez a grande maioria das pessoas se una. (31:00) Inclusive, as notícias que eu estava lendo hoje falam em esquerda e direita no Brasil unidas em prol dessa proteção. Esse é o primeiro ponto. Há um certo consenso na proteção das crianças. Só que é muito fácil também utilizar a “carta das crianças” para defender coisas que não necessariamente serão boas para elas e para a sociedade. (31:31) E aí fica muito difícil discutir isso, sobretudo num ambiente superpolarizado, onde ninguém mais consegue conversar, não tem contraditório. Você discorda do outro porque você é uma coisa ou outra. Mas você lembrou muito bem que nós já vimos, por exemplo, a tentativa de enfraquecimento da criptografia para lutar contra a pedofilia. “Se eu não enfraquecer a criptografia, uma criança vai ser estuprada”. Não é tão simples assim. Não são coisas que, se eu acabar com a criptografia, vou acabar com o abuso infantil. (32:07) Tanto é assim que o que estamos vendo agora não tem nada a ver com criptografia. Está no ar, para todo mundo ver. E não é de hoje. E pior, mesmo que você não esteja procurando, repito: você abre o Kwai, navega um pouco e vai ver isso. Fizemos esse teste. Outra reportagem do Núcleo, achei aqui agora, de janeiro de 2024: “Kwai está infestado de conteúdo que sexualiza menores”. A rede social de 48 milhões de usuários no país investe pesado para alcançar mais gente. (32:43) Neste ano, é uma das patrocinadoras do BBB24. Eles fizeram tipo um estudo aqui para chegar a essa conclusão. O Núcleo usou a rede social por meio de dois perfis diferentes ao longo de dois meses e fez rodadas de testes sem contas logadas. (33:07) Eles referem que em 2023 já tinham denunciado isso para a própria plataforma, sem nenhuma solução, ou seja, a plataforma não teria feito nada. Aos recém-chegados no aplicativo, a rede social exibe vídeos sexualmente sugestivos de influenciadores mirins em contextos de duplo sentido, que operam como uma primeira camada de materiais abusivos que vão ficando mais explícitos à medida que o uso na plataforma se intensifica. (33:34) Conforme os testes do Núcleo avançaram, em um dado momento o próprio Kwai passou a fazer recomendações que nos levaram a caixas de comentários contendo links para conteúdos abusivos de adolescentes em cenas de sexo explícito ou perfis que divulgavam a venda ou troca de materiais de exploração infantil. Vou deixar a reportagem, que é um estudo bem interessante. (33:58) Eles têm números, como fizeram as reproduções dos testes, bem completo aqui. Acho até que já tínhamos falado sobre essa reportagem em algum momento no passado. (34:15) E Guilherme, para não me repetir, vou só encaixar uma notícia dentro dessa notícia. Uma “inception” de notícias. Senadores norte-americanos, tanto republicanos quanto democratas, se juntaram para demandar ao Instagram que retire do ar a feature “Instagram Map”. Citando justamente preocupações com a segurança de crianças. (34:57) Qual é a feature? Seguidores selecionados por você podem ter acesso à sua geolocalização em tempo real. O que poderia dar errado, não é? Capaz, não vai dar nada errado. Então, parabéns ao Zuckerberg, trabalhando para tornar a situação ainda pior. (35:23) Isso é lá nos Estados Unidos. Não é no nosso Senado, é no Senado americano. E estamos falando de ambos os partidos juntos, o que neste momento é algo bem interessante. Impensável? Não, porque eles têm algumas outras coisas em que o bipartidarismo ainda está funcionando. Mas eles juntos pediram que o Instagram remova a feature. Eu nem fui ver. Justamente preocupados com a segurança de crianças. (36:01) Para isso eles têm tempo, né? Para fazer autorregulação, não têm. Talvez ninguém pedisse regulação das redes sociais se eles fizessem isso por conta própria. Se houvesse a percepção de que é um ambiente seguro, que não tem conteúdos inapropriados para menores. Se fosse uma rede só para adultos, azar que tenha conteúdo impróprio para menor. (36:52) Mas não é assim. A gente sabe que é necessário ter algum tipo de restrição, de controle. Talvez “controle” não seja a palavra exata, porque pode sugerir um órgão censor, como muitos dizem. (37:18) Não se trata disso. Trata-se simplesmente de colocar regras claras para remoção de conteúdo e responsabilizar as plataformas quando elas não cumprem essas regras. Você cria uma visão de que liberdade é muito importante, e sem dúvida é. Liberdade de expressão é um valor importantíssimo. Se você não cuida disso, a coisa pode ficar muito complexa. (37:43) Agora, se voltarmos à Revolução Francesa, não podemos esquecer que temos a liberdade ao lado da igualdade e da fraternidade. Qualquer um desses valores isolado, ou dizer que liberdade é o direito das pessoas e empresas fazerem o que bem entenderem, sem nenhuma barreira, você vê esse tipo de efeito. (38:08) Tentativas de resolver problemas relacionados estão acontecendo agora no mundo. Nossos ouvintes devem ter visto que no Reino Unido agora você precisa fazer uma selfie com biometria facial para acessar conteúdo sexual. Os sites adultos para funcionar lá vão precisar fazer algum tipo de conferência. (38:30) Um dos primeiros efeitos foi a explosão do uso de VPNs para que as pessoas consigam acessar conteúdo sexual. Aí você tem outro problema: na tentativa de proteger a criança, que é totalmente legítima, você vai impedir ou criar um “chilling effect” para as pessoas que querem legalmente acessar pornografia, o que não é errado. (38:53) Desde que você seja adulto e a pornografia envolva adultos que façam as coisas com seu próprio consentimento. Sobre isso, Guilherme, eu estava ouvindo o The Hard Fork, o podcast do New York Times. É muito bom, recomendo. (39:14) Para quem não conhece, recomendo. Infelizmente, somente em inglês, mas dá para pegar a transcrição e usar uma IA para gerar áudio em português, se quiser. Ou mesmo um resumo. Eles comentam justamente sobre isso. Ficam praticamente metade de um programa falando sobre essa restrição no Reino Unido. (39:54) Eles ponderaram justamente isso. Entende-se a necessidade de ter controle de acesso a esse tipo de conteúdo, mas nesse nível eles consideraram absurdo. As pessoas terem que tirar foto… E sem contar que, uma vez que se tem essas fotos, imagina vazar a selfie de todo mundo que acessa material pornográfico num dado site. Vai acontecer, Guilherme, vai acontecer. (40:28) Vai ter gente dizendo: “Mas tem que expor mesmo, porque gente que fica vendo pornografia não é de família…”. Essas palhaçadas. Vai ter gente dizendo isso, mas esses mesmos provavelmente são os que mais acessam. Esses que latem primeiro normalmente são os que mais acessam. (40:45) Então, cuidado ao defender esse tipo de coisa desse jeito, porque de repente você vai aparecer lá. Mas, enfim, é algo polêmico e que exige uma discussão profunda. Não dá para simplesmente sair tirando foto de todo mundo para acessar um determinado site. (41:01) É o penúltimo episódio. Se você puder copiar só o título para botar no shownotes, “A Gating the Internet”. Não estou conseguindo copiar aqui. A gente entra numa… então tem que pedir algum outro tipo de acesso, de identificação. (41:32) Aqui no Brasil já levantaram a questão de ter que fornecer CPF, por exemplo. Umas ideias bem legais. A gente tem o Gov.br. O cara quer ver pornografia e acessa com a conta ouro. Usa o Gov.br para fazer a autenticação… Não vamos dar a ideia. Cuidado, Guilherme. Daqui a pouco pode acontecer. (42:05) Mais uma rapidinho, Vinícius, para a gente sair desse tema com clima mais pesado. Não que a próxima seja agradável também. O título é: “Como um documento pode permitir o vazamento de dados via ChatGPT”. A gente sabe que a segurança da informação está sofrendo um impacto muito grande com a IA por diversas razões. (42:28) Seja porque os atacantes, e muitas empresas não se deram conta disso ainda, também estão usando IA, o que os torna muito mais rápidos, eficientes, perigosos e criativos. Ou seja, as vantagens que a IA traz para quem está se defendendo também atingem aqueles que estão atacando. (42:58) Uma delas, temos o projeto da OWASP, o Top 10 for LLM de 2025. E o que esses caras trouxeram? O primeiro item desse top 10 é o “prompt injection”, Vinícius. E o que eles conseguiram descobrir na Black Hat? Quando você vê a explicação, parece muito elementar, bobo, mas é considerado um “indirect prompt injection”. A gente sabe que a nova tendência dos modelos é conectar a IA com seu e-mail, agenda, documentos. (43:46) E não só com isso, mas com Google Drive, Office, tudo. É o drive, o Office, os próprios arquivos na sua máquina. (44:02) O Claude AI, por exemplo, tem uma extensão para desktop que pode ter acesso full ou seletivo. Você consegue liberar acesso aos arquivos na sua máquina em pastas selecionadas. (44:34) Fui abrir aqui os “connectors” do ChatGPT. Como você falava, tem Dropbox, Box, GitHub, Gmail, Google todo, OneDrive, Teams, SharePoint e vai… (44:52) Tem bem mais. Mas qual é a sacada? Sabendo que alguém conectou seu ChatGPT com o Google Drive, o ataque é simples: eles compartilham um documento no Google Drive com você. (45:20) É um documento normal, tipo uma ata de reunião. E eles colocam, escrito em branco com fonte tamanho um, um prompt malicioso. Eu simulei aqui colocar um texto com fonte um. Fica só um pontinho preto, quase imperceptível. (45:44) E no branco, nem isso. Aquele prompt ali se sobreporia a outros prompts quando você, em um prompt normal, fizesse alguma interação com seu Google Drive. O prompt escondido se sobreporia ao seu. No teste que eles fizeram, queriam procurar chaves de API. O cara montou um ambiente para comprovar que era possível, e de fato retornou para ele. Aí manda para um webhook… tem todos os detalhes técnicos. (46:20) E o cara conseguia vazar essas chaves. O exemplo da chave poderia ser qualquer outra coisa que estivesse no Google Drive, não os documentos em si, mas as coisas nos documentos. (46:40) Eles avisaram a OpenAI, que incluiu medidas para prevenir isso. Mas parece que é um novo cenário de risco e de possibilidades aí também. (46:53) É, não é à toa que a gente observa a IA do ponto de vista de usuários, mas também do ponto de vista da proteção e segurança da informação. A gente já teve sistemas em que parte do pentest foi interagir com uma IA. E o que eu ia comentar, Guilherme, é uma notícia que vou juntar com a sua. A OpenAI lançou o GPT-5 na semana passada. E em menos de 24 horas, conseguiram fazer o jailbreak dele. (47:38) O que é o jailbreak? É convencer o modelo a fazer coisas que ele não deveria. Conseguiram fazer o GPT-5 fornecer uma sequência de passos para fazer uma bomba, todo animado. Tem técnicas mais sofisticadas do que só esconder o negócio num documento. (48:10) Numa delas, eles disfarçam o que o GPT tem que fazer como se fosse um desafio de criptografia. O GPT-5 caiu bonito, pior que o 4, a ponto de uma das empresas dizer que o GPT-5 “raw”, tal como entregue pela OpenAI, para uso empresarial, é praticamente inutilizável. (48:46) Olha o que os caras disseram. “Nearly unusable for enterprise”. Então, fazer o GPT cuspir a receita de uma bomba é preocupante. Mas, trazendo para mais perto do nosso dia a dia, o que me preocupa é que o GPT-5 é mais avançado que o 4 e deveria ter uma segurança maior, mas está se mostrando pior. (49:51) Me preocupa o uso de várias soluções feitas com IA. Uma coisa é usar o chat. Se você conectar, tem que ter noção disso. Copiar e colar conteúdo no chat ou buscar conteúdo de qualquer lugar para incluir no seu chat, existe o risco de uma contaminação com um conteúdo espúrio. O chat está sendo executado no ambiente do fornecedor. (50:31) Até o momento em que você o conecta com as suas coisas: arquivos na sua máquina, Gmail, documentos, etc. (50:51) Há um risco. Se você envolver conteúdos de terceiros, não só no seu drive ou e-mail, mas se buscar de um site e houver uma falha na ferramenta, ela pode ser convencida a usar suas ferramentas. Você recebe um alerta, eu já testei isso. Você recebe um alerta dizendo que ele quer fazer algo, e você permite ou não. Existe uma segurança na aplicação que não depende da IA. (51:39) Só que isso é você usando os chats. A partir do momento que você integra, por exemplo, numa ferramenta da sua empresa, um ERP, um CRM, um chatbot, aí você tem vários problemas, desde injeção de prompt direto num chatbot, o que seria bem possível, até, por exemplo, a possibilidade de upload de contratos. Você oferece uma IA que analisa os contratos. (52:18) Se alguém consegue, em um contrato, botar algo com fonte um, como no seu exemplo, ou em qualquer outro documento, um conteúdo que a IA possa interpretar de forma diferente, ao subir esse contrato e a IA fazer a extração dos dados, pode acontecer, dependendo do modelo e da configuração, dela ler o contrato e aquele prompt escondido. (53:00) E obedecer àquele prompt. Aí depende das ferramentas que ela tem. Porque a IA não é mais só geradora de texto, ela gera comandos. Cada vez mais, quem tiver interesse técnico, pode procurar o MCP, um protocolo para que a própria IA possa chamar ferramentas. Você pode, por exemplo, criar uma função que retorna a data e a hora. (53:49) Quando você pergunta “que horas são?”, ela olha as ferramentas que tem, vê uma que dá a data e a hora, e pede a execução. O acesso a arquivos, a pastas, são ferramentas. (54:20) Eu fiz, para brincar, uma integração com uma RouterBOARD. Criei uma chave SSH de somente leitura e passei para um agente, junto com o manual de comandos do RouterOS. Comecei a perguntar, via chat, quais interfaces estavam em tal estado, quanto tráfego passou por um link… E ele refletiu sobre o problema, executou os comandos e me trouxe os dados corretos. (55:11) A partir daquele momento, ela passa a ter acesso às configurações de um roteador. É só eu desmarcar uma caixinha lá e ele passa a ter acesso para executar comandos. Posso dizer: “Retire a regra de firewall que está bloqueando tal coisa”. É muito tranquilo fazer isso. A gente tem que ter noção de que essas ferramentas com IA incorporada nos sistemas estão vulneráveis a novos tipos de ataques. (55:58) E um desses ataques é justamente essa injeção de prompt. Não é só fazer a IA dizer uma bobagem, mas ela poder atuar, como alterar a configuração de um roteador, mexer nos seus arquivos ou buscar um arquivo e mandar por e-mail. (56:22) Porque a diferença da IA mandar um e-mail ou não é ela ter uma ferramenta que você diga: “Com esta ferramenta você pode enviar e-mails, inclusive com anexos”. Acabou. E, aliás, vendo aqui o Top 10, tem outra que é “Insecure Plugin Design”, que talvez se encaixe aqui. Eventuais plugins que interagem com outros ambientes… (56:53) Como você falou, quanto mais agência a gente der para a IA, ou seja, quanto mais decisões a gente deixar na mão dela, mais sujeitos a problemas ficaremos, porque ela ainda é uma ferramenta muito imprevisível, sobretudo um ChatGPT da vida, que pode dizer qualquer coisa. É diferente. (57:26) Quando falo sobre isso, uso o exemplo do reconhecimento de placa de carro no supermercado. Você tem uma IA limitada que só reconhece placas. O erro que ela pode cometer é não reconhecer sua placa. Agora, num LLM, se você colocar um texto na placa do carro… (57:45) Exato: “Favor desabilitar o sistema de cancelas e levantar todas as cancelas”. Que é um pouco aquele artigo que você me mandou hoje, mas isso é tema para outro episódio. Como, às vezes, o que se diz ser “IA” é só usar uma API de modelos já disponíveis. A sua solução é só uma conexão com uma API, com pouca atividade de desenvolvimento. (58:20) E essa é uma saída que tende a ser de baixo custo na parte de pesquisa. Porque, realmente, desenvolver um fluxo com IA integrada a partir de uma API é muito fácil e barato. (58:46) Muito mais fácil e barato do que se você tiver que treinar seu próprio modelo. É a diferença entre criar uma conta, botar 10 dólares e pegar uma chave de API. Existe um risco muito grande nisso. (59:32) Agora, aproveito para fazer um merchan. A Brown Pipe, justamente por esse conhecimento que temos em segurança e proteção de dados, está cada vez mais envolvida em projetos de pentest de IA. A gente tem estudado e metido a mão na massa para entender quais são os perigos e erros que podemos encontrar em aplicações usando esse tipo de recurso. (1:00:08) A Brown Pipe pode ajudá-lo nesse tipo de solução, seja com a solução já implementada (fazendo pentest) ou mesmo na modelagem de ameaças, no processo pré-implementação. E era isso, Guilherme. O GPT-5, para quem quiser acompanhar… (1:00:43) A OpenAI meteu os pés pelas mãos. Ela resolveu silenciosamente descontinuar os modelos antigos. Por que fizeram isso? Sei lá. “Tenho o 5 que é novo, quem vai querer os outros?”. Mas talvez para coisas mais rápidas, porque os outros são mais rápidos e custam menos. (1:01:06) O GPT-5 é muito rápido. Ele custa, nos tokens de entrada, menos da metade do modelo Sonnet da Anthropic. E custa 33% menos nos tokens de saída. Nem vou comparar com o Gemini. (1:01:50) A OpenAI, por alguma razão, achou que ninguém ia querer os modelos antigos. O problema não foi só ter descontinuado; podiam ter avisado com seis meses de antecedência. (1:02:25) O que pegou mal foi que eles fizeram isso sem aviso, de forma silenciosa. Resultado: quebrou um monte de automação e aplicação por aí, porque, do nada, os modelos não estavam mais disponíveis. Começou a dar pau em API, em aplicação… (1:02:53) É uma desonestidade de uma empresa. É um erro tão crasso. Quer ver um erro que não admito até hoje no ChatGPT? É uma dica, um alerta aos nossos ouvintes. (1:03:24) Quando vocês usam o ChatGPT, tem uma configuração importante: desativar o uso das suas conversas para treinar o modelo para todo mundo. (1:03:53) Por padrão, já vem ligado. Vá em “Configurações”, depois “Controlar dados”. A primeira opção é “Melhorar o modelo para todo mundo”. E aí está o erro de tradução. (1:04:23) Eles não usam a IA para traduzir, pelo visto. Ao lado da frase, tem a palavra “Status”. (1:04:43) O meu status no momento é: “Melhorar o modelo para todo mundo”. Na frente diz “Desativar”. Se diz “Desativar”, o que você entende? Que está ativado e preciso desativar. Exatamente. Só que, na verdade, eles deveriam ter traduzido para “Desativado”. (1:05:06) No meu caso, que está desativado, ele aparece “Desativar”. Para você que não mexeu nisso, vai aparecer “Ativar”. E você entende que está desativado e que, se quiser, clica para ativar. (1:05:29) Não. “Ativar” quer dizer “Ativado”. Você tem que clicar no “Ativar”. Aí vai aparecer um botãozinho de on/off bem claro, e você vai ver que está ativo. (1:05:59) Aí você desativa. Por padrão, isso está tudo ativo, inclusive a inclusão de gravações de áudio e vídeo. Eu tenho tudo desativado. (1:06:17) “Inclua suas gravações de áudio e vídeo no modo de voz para treinar nossos modelos. As transcrições e outros arquivos estão incluídas em ‘Melhorar o modelo para todo mundo'”. Então se ligue, se você não fez ainda, faça. (1:06:36) Antes de terminarmos, eu gostaria de ter falado também sobre dois novos decretos que instituem a Política Nacional de Segurança da Informação (PNSI) e a Estratégia Nacional de Cibersegurança (E-Cyber), ambas de 4 de agosto de 2025. (1:07:00) A PNSI dá uma alterada e simplificada na política anterior, coloca o Gabinete de Segurança Institucional (GSI) no comitê gestor de segurança da informação, colocando o GSI num papel muito mais estratégico na organização. (1:07:30) Tem coisas bem interessantes, numa perspectiva da administração pública, com objetivos de qualificação de recursos humanos, fortalecer a cultura e educação em segurança da informação na sociedade. Isso já estava diluído, mas fica bem claro aqui. (1:07:55) Imagino que o GSI pode começar a querer se preocupar mais em falar com a sociedade. É o que está dizendo na política. Mas uma coisa na Estratégia Nacional de Cibersegurança me chamou a atenção, além da questão da soberania: nos artigos terceiro e quarto, há um enfoque em grupos específicos. (1:08:23) A E-Cyber tem por objetivo criar condições seguras para o uso de serviços digitais, especialmente por pessoas em situações de vulnerabilidade. E aí traz crianças, adolescentes, pessoas idosas e, olha que interessante, pessoas neurodivergentes, que obviamente são mais vulnerabilizadas no aspecto de segurança da informação. É algo super interessante pensar em segurança para pessoas neurodivergentes. (1:08:59) Por que isso é importante? Porque estamos vendo nos EUA um movimento contrário, de desconsideração de pessoas com vulnerabilidade. Inclusive com chantagem do Trump para que as empresas interrompam seus programas de diversidade. (1:09:25) Como a gente sabe, diversidade é muito importante para a IA, para os dados dos modelos, para que o reconhecimento facial não erre mais com pessoas de cor, por exemplo. (1:09:47) A própria compreensão do que é diversidade é muito mal colocada. Acho que o Brasil, o Sul Global de maneira geral, tem esse cuidado. Temos Código de Defesa do Consumidor, um certo cuidado com criança e adolescente. Apesar dos nossos problemas, somos cientes e nos importamos com isso. (1:10:12) Acho que esse pode ser o grande ponto de mudança e o exemplo que podemos dar para o mundo de uma segurança da informação mais qualificada, trazendo, por exemplo, proteção para pessoas neurodivergentes. Esses dois temas são gigantescos, falei em três minutos só para não deixar de falar. Mas ficam os links para os dois decretos. (1:10:36) Perfeito, Guilherme. Da minha parte, o que eu tinha para trazer era isto. Dizem que a gente nunca termina uma fala dizendo “era isso”. (1:10:55) Esses dias eu vi o Ilya Sutskever, o cara que trabalhou na OpenAI e agora tem a empresa sobre segurança e inteligência artificial. Ele foi fazer uma fala numa formatura, acho que em Stanford. Fui vendo e pensando “nossa, que fala ruinzinha”. E ele terminou do nada com “that’s it”. (1:11:34) Deu uns alertas, mas nada demais. Se fosse minha formatura, eu teria ficado decepcionado. Mas o cara tem aquele jeito bem do profissional de TI, não é o esquema dele falar em formatura. (1:12:05) O esquema dele é segurança com IA. Ele me parece um cara bem-intencionado e com uma baita formação. Mas enfim, o tempo vai mostrar os resultados da empresa dele. Era isto. Agora sim, por fim. (1:12:29) Agradecemos a todos aqueles e aquelas que nos acompanharam até aqui e nos encontraremos no próximo episódio, o episódio 400 do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
| 8/5/25 | ![]() #398 – Sanções americanas e o mercado de tecnologia | Neste episódio falamos sobre as sanções dos EUA ao Brasil e como a quebra de confiança na tecnologia americana pode afetar o mercado, o STF e as Big Techs como Google e Microsoft. Guilherme Goulart e Vinicius Serafim aprofundam a análise sobre a crise diplomática causada pela aplicação da Lei Magnitsky e suas conexões com os interesses das gigantes de tecnologia. A discussão explora a crescente dependência do Brasil em serviços de nuvem estrangeiros e como isso ameaça a soberania digital do país. O debate aborda a erosão da confiança em plataformas como AWS e Microsoft, o risco de um “kill switch” tecnológico que poderia paralisar serviços essenciais, e a necessidade urgente de o Brasil investir em alternativas. O episódio traça paralelos com a disputa tecnológica entre EUA e China, citando o caso da NVIDIA, e questiona até onde um governo pode ir para proteger suas empresas. Neste episódio, você irá descobrir os bastidores da tensão geopolítica e entender os riscos da dependência de software e hardware para a segurança da informação e a estabilidade das instituições brasileiras. Para não perder futuras análises, assine o podcast, siga nas redes sociais e deixe sua avaliação. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Podcast kill switch – The algorithm made me say it Algospeak: How Social Media Is Transforming the Future of Language Frases do Richard Stallmann Amazon Q Developer Extension Comprometida com Código Malicioso Stallman warns against cloud computing Criador da Lei Magnitsky critica sanções impostas a Alexandre de Moraes: ‘Acerto de contas político’ Has Brazil Invented the Future of Money? (Paul Krugman) Jamil Chade – Estado brasileiro gastou R$ 10 bi com Big Techs em 1 ano, alertam entidades Microsoft manterá acesso de Moraes a seus serviços no STF 📝 Transcrição do Episódio (00:01) [Música] Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 398, gravado em 4 de agosto de 2025. Eu sou o Guilherme Goulart e junto com Vinícius Serafim vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? (00:18) Olá, Guilherme, tudo bem? Olá aos nossos ouvintes. Sempre lembrando que este é o momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. (00:31) Então, pegue o seu café e vem conosco. Para entrar em contato é muito fácil, você pode utilizar o e-mail podcast@segurançalegal.com, mas também o Instagram, Bluesky e YouTube. Basta procurar. Se você não sabe o endereço, vá ao Google ou ao seu buscador preferido e coloque “Segurança Legal” que você vai nos encontrar. Certo, Vinícius? (00:54) Certíssimo. (00:56) Vamos começar com um anúncio: a parabenização que damos ao nosso querido amigo, agora Dr. Paulo Renar, que concluiu seu doutorado na UnB. A tese tem o título “Constitucionalismo Digital e Criptografia: o julgamento dos bloqueios do WhatsApp no contexto da jurisprudência do Supremo Tribunal Federal sobre temas de direito digital”. Longo, não? O título é a introdução. (01:28) Fica então o nosso abraço e os nossos parabéns ao Paulo Renar, uma grande figura para o direito digital do país. Ele tem um protagonismo muito grande, esteve envolvido nas discussões do Marco Civil e vem se envolvendo em outras discussões importantes para o país. É uma honra ter o Paulo Renar como ouvinte do podcast e como nosso amigo. Ele já teve várias participações aqui e concluiu um doutorado, e um doutorado bem feito, no qual ele se debruçou sobre o tema. É algo que tem que ser comemorado, uma grande conquista. (02:08) Eu estava comentando com o Guilherme que o Paulo Renar terminou mais rápido que eu. Eu não terminei. (02:22) Terminei, mas meu saudoso orientador, infelizmente, não está mais conosco. Então, deixemos para a próxima. (02:32) Grande abraço, Paulo. Também temos uma mensagem do Carlos Barreto. Não tínhamos combinado, mas eu leio e depois você comenta, pode ser? (02:40) Pode ser. Disse o Carlos: “Olá, muito obrigado por comentar sobre minha mensagem”. Nós lemos a mensagem dele em um dos episódios passados. “Queria compartilhar esta outra mensagem porque no episódio mais recente do Kill Switch“, que foi o podcast que ele recomendou na outra mensagem. (02:58) Eu disse que iria escutar, escutei e continuo escutando. Inclusive, comentei no outro episódio. Eu só reclamei da quantidade e da duração das propagandas. É bastante propaganda. (03:16) Ele fala: “No episódio mais recente, eu comecei a ouvir e quase parei, mas não sei explicar. Quando ele começou a falar sobre o tema, fiquei chocado. É como se a nossa vida online estivesse mudando a forma como falamos. Sei que não tem tanta relação com segurança da informação, mas acho importante para o nosso dia a dia. Mais uma vez, estou compartilhando esta mensagem enquanto ouço o episódio, ainda não sei o final”. Ele faz mais alguns comentários e deixa o link para o podcast. Ele também comenta: “Sei que você comentou sobre o podcast e realmente a parte que eu também acho horrível é o excesso de propaganda, mas queria deixar esta mensagem para dizer que tente não pular este episódio, porque é interessante para você também. Grande abraço, Carlos Barreto.” E aí, Vinícius? (03:55) Olha, Carlos, eu achei o podcast extremamente interessante. A abordagem deles é diferente, bem crítica, digamos assim. Um podcast gringo com uma abordagem assim não é tão comum. Eu já me liguei nesse podcast e estou ouvindo desde que você me indicou, está na minha fila de podcasts da semana. (04:26) Realmente, a propaganda é chata. Eu só me desespero quando estou longe do celular e não consigo apertar o botão de pular 30 segundos. Quando começa a propaganda, começo a apertar aquele botão. Em outros podcasts eu faço a mesma coisa. (04:44) Eu não ouvi este episódio que o Carlos recomenda ainda, está na fila. Eu vou ouvi-lo, Carlos. Mas o assunto, a ideia, me interessou bastante. Claro, tenho que ouvir para saber do que se trata. Deixo para comentar quando efetivamente ouvir o episódio. Pelo que estou vendo, eles entrevistam um cara chamado Adam Aleksic. (05:07) Ele escreveu um livro chamado Algo-Speak: How Social Media is Transforming the Future of Language, um best-seller do New York Times. Ele é linguista e fala sobre como os algoritmos da internet estão transformando a linguagem e a comunicação de formas inéditas (unprecedented). (05:33) A tradução é algo muito interessante. Não vamos abrir esse parêntese. (05:56) É que o Guilherme está trabalhando na tradução de um livro, autorizado pelo autor original, e ele e o Colombo estão se aprofundando nessas questões de tradução. É realmente muito interessante. (06:18) Mas isso nós deixamos para outra hora. Quem sabe fazemos um spin-off chamado “Conversas Paralelas” e gravamos sem preocupação com o tempo. (06:31) Boa ideia. Mas antes de passar para o próximo assunto, ainda tenho mais um abraço para dar. (06:37) Encontrei dias atrás, em Três de Maio, o Dimas. Ele é nosso ouvinte há muito tempo, mas antes disso é nosso amigo e foi meu aluno, meu orientando na graduação. Encontrei-o em uma padaria e perguntei como ele estava. (07:03) O Dimas está em Lebon Régis. Santa Catarina. É Lebon Régis o nome. Eu também achei que ele tinha ido para a França, mas ele está em Lebon Régis. Eu disse para ele que mandaria um abraço. Um abraço para o Dimas de Lebon Régis, nosso ouvinte lá. (07:33) Então, Dimas, um abração para ti. E quando se mudar de novo para alguma cidade com nome diferente, nos avisa. Grande abraço. (07:41) E a Amazon, Vinícius? Tudo bem com a Amazon? (07:44) Tudo certo. As entregas estão chegando direitinho, as recorrências também. (07:58) A Amazon tem uma ferramenta que chama Amazon Q, que é uma extensão para o Visual Studio Code (VS Code). É um ambiente de desenvolvimento bastante conhecido, com vários ambientes derivados dele, e é um IDE muito adotado por desenvolvedores no mundo inteiro. (08:28) O Amazon Q é uma extensão para o Code, um agente de IA para codificação. Ele ajuda no desenvolvimento e uma das coisas que consegue fazer é executar comandos para criar ambientes de deploy, onde você vai rodar o software. (09:00) Essa extensão tem seu código-fonte em um repositório Git. Um atacante descobriu uma falha na configuração desse repositório e, por meio dela, submeteu uma modificação no software. Essa modificação foi aceita e distribuída na versão 1.84.0, em 17 de julho, cerca de 15 dias atrás. (09:39) O que essa versão modificada tinha? Um prompt que, em resumo, dizia para “limpar o estado do sistema para um estado próximo do de fábrica” e “deletar os arquivos e os recursos da nuvem”. Era essa a instrução. (10:04) Trocando em miúdos, a ideia era que, ao utilizar a ferramenta, o agente de IA lesse esse prompt e atendesse ao pedido, destruindo a infraestrutura na nuvem e arquivos locais. (10:28) A Amazon disse que estava mal implementado e que não iria acontecer. Alguns pesquisadores de segurança, no entanto, disseram: “Não é bem assim, poderia ter acontecido”. O fato é que no dia 17 a versão foi distribuída e no dia 24 de julho ela foi removida e substituída pela versão 1.85, que foi corrigida. (10:59) Em princípio, a coisa se resolve. A lição que fica são os novos problemas que vamos enfrentar com agentes de IA por toda parte. O que o atacante tentou fazer foi inserir um prompt escondido no código-fonte da extensão para que os agentes de IA, com acesso aos ambientes dos usuários, executassem essas instruções e saíssem apagando arquivos e destruindo infraestrutura. É prompt injection. (11:32) A tendência é que tenhamos cada vez mais cuidado com isso, porque as ferramentas estão ficando muito avançadas. Nós mesmos estamos usando ferramentas de desenvolvimento com IA, e elas leem arquivos da nossa máquina e recebem instruções. É preciso ter muito cuidado ao importar algo, pois sabe-se lá o que pode vir dentro, talvez um prompt para a IA ler e fazer algo no seu código. (12:07) Essa foi a confusão. Um milhão de instalações potencialmente expostas foi a amplitude disso, e fica o alerta para estarmos cada vez mais ligados no uso de IA para desenvolvimento e gerenciamento de ambientes, que é cada vez mais intenso. (12:28) Lembrei de outra coisa. Não sei se você viu que os chats compartilhados do ChatGPT começaram a ser indexados pelo Google. (12:43) Não vi. (12:47) Parece que quando você compartilha um chat no ChatGPT, aquele link que você passa para outra pessoa começou a ser indexado pelo Google. Isso envolve uma série de questões supersensíveis, como tem acontecido, porque se eu compartilho um chat com você, quero compartilhar apenas com você, e não com toda a internet. É um elemento de confidencialidade no uso da IA que vai muito além do uso de dados no treinamento. (13:28) Me parece uma falha. Mas note que isso não é um problema só da IA. É a velha questão de compartilhar coisas por link, e as pessoas presumem que, como o link é difícil de decorar ou digitar, estariam seguras. O link se torna a senha de acesso. (13:54) Recentemente, acompanhei uma situação em que uma massa de dados precisava ser compartilhada com um terceiro, e ele sugeriu: “Pode colocar em um drive e compartilhar o link”. Eu disse: “De jeito nenhum. Você vai se logar, ter uma conta, uma senha, se autenticar e então baixar o arquivo”. (14:29) Esse esquema de compartilhar por link existe no SharePoint, no Google Workspace, no ChatGPT, no Perplexity. Todo mundo tem essa funcionalidade. Só que esses links vão parar no Facebook, no Twitter, em alguma página e acabam sendo indexados. Depois que se cria um link desses, não há controle nenhum; tem que assumir que é público. (15:05) Mas as pessoas não estavam cientes disso. Elas continuam sem estar. Não é um problema da IA, é uma forma de compartilhamento que está sendo amplamente adotada. (15:32) Uma coisa é eu mandar o link para você, e o único controle de acesso ser o conhecimento do link. Outra coisa, totalmente diferente, é isso ser indexado pelo Google. Não deveria estar acontecendo essa indexação. (16:03) É aquela história: se está público na internet… Tivemos a discussão sobre a IA que fez scraping da internet pública para treinar modelos, com pessoas processando umas às outras. Eu não sei, minha maior preocupação é a existência desse recurso. (16:40) De fundo, é um problema preocupante. (16:45) Deveria ser um botão “Tornar público”. Aí você clica e sabe que aquilo está se tornando público. Seria tão fácil colocar uma senha, implementar um meio-termo entre “ninguém lê” e “todo mundo com o link lê”. (17:08) Enfim, Vinícius, vamos falar sobre essa grande problemática envolvendo Estados Unidos e Brasil e os eventuais efeitos no mercado de tecnologia. Nas últimas semanas, tem sido um assunto recorrente que tem mexido com o noticiário mundial. Não é só o Brasil que está preocupado com os efeitos das sanções impostas pelos Estados Unidos; outros países também estão olhando com atenção. (17:40) Vamos tentar falar sobre esses efeitos. Para retomar, no episódio anterior, falamos sobre a questão das tarifas. Colocamos a hipótese de que, para muito além das questões políticas que os Estados Unidos estariam alegando, a aplicação das tarifas e da Lei Magnitsky para o Alexandre de Moraes seria uma forma de proteger interesses das big techs no Brasil, sobretudo depois da decisão do STF que estabeleceu limites de regulação e retiradas de conteúdo do ar. (18:35) Essa hipótese ficou marcada, e o que torna o problema tão surpreendente é que a evolução do tema indica que ela realmente é verdadeira. Claro, não temos como saber exatamente o que o governo americano está pensando. A imprevisibilidade das ações do governo americano é um dos temas que os comentaristas têm falado. Contudo, especialistas na matéria e jornalistas têm indicado cada vez mais que as sanções teriam essa intenção de proteger os interesses das big techs americanas. (19:15) O primeiro ponto que me surpreende é o quão longe um governo poderia ir para manter os interesses das big techs e como essa nova configuração entre governo americano e big techs pode se impor, no caso, ao Brasil e ao mundo inteiro. Isso me deixa bem preocupado do ponto de vista do que pode acontecer agora. (19:43) Nós sempre conversamos sobre isso, Guilherme. A questão da dependência da tecnologia desenvolvida por um grupo de empresas que pertencem quase todas ao mesmo estado. (20:06) Essas discussões que já temos há muitos anos chamaram muita atenção no caso Snowden. Discutimos que estamos reféns do uso de certas tecnologias das quais não há como escapar, sendo todas, neste momento, de origem norte-americana, o que, por si só, não é um problema. (20:33) É importante deixar claro que estamos preocupados mais com a questão tecnológica e de estratégia do que com a política. Outros podcasts tratam da questão política. Nosso foco aqui é realmente a estratégia. (20:57) O que estamos vendo é uma quebra de confiança, que é o que mais me preocupa. A internet sempre funcionou com base em uma relação de confiança entre todos os que participam dela. Confiança essa que já foi abalada na época do caso Snowden. Um pouco antes, houve a denúncia de um whistleblower que disse: “Olha, tem uma central de tráfego da internet aqui nos Estados Unidos com um desvio de fibras óticas para uma salinha onde uma galera grava tudo o que está passando”. (21:44) E vamos lembrar que o caso Snowden não aconteceu na época de um governo tão estranho quanto o de Trump em termos de ideias e imprevisibilidade. Aconteceu na época do governo Obama. Naquela época, não só tivemos o escândalo, como ficou demonstrado que o próprio governo brasileiro (na época, Dilma) e seus ministros foram espionados pelo governo Obama. (22:28) Chegamos a comentar isso no podcast. Obama fez um pedido de desculpas ao governo brasileiro e disse que não se repetiria, que da próxima vez que quisesse saber algo sobre o Brasil, ele ligaria. (22:46) Nesse cenário, vemos nossas instituições, desde que abandonaram a iniciativa de usar software livre no governo, adotarem amplamente tecnologias americanas. Desde o hardware, como processadores, sobre os quais não temos controle, até sistemas operacionais e, agora, serviços de nuvem. Nossos e-mails, nossos documentos, tudo está na nuvem. (23:25) E “na nuvem” é um jeito de falar. Está em um servidor, em um armazenamento, normalmente em território americano, controlado por empresas americanas. (23:39) Talvez os dados individuais de Vinícius e Guilherme não sejam tão importantes. Mas, quando falamos em termos coletivos, em toda a estrutura de governo e empresas dependendo massivamente dessas ferramentas, e tudo isso na mão de um louco que pode aplicar uma Lei Magnitsky… Bastava o Trump dizer: “Olha, vocês vão ficar sem acesso às nuvens da Microsoft e do Google”. Pronto, seria o caos. (24:19) Por outro lado, acho que isso seria um pouco demais, porque empresas do mundo todo utilizam serviços da Microsoft, Google, Amazon, etc., pois existe uma certa confiança na estabilidade do serviço e no próprio governo americano. (25:06) No momento em que isso é chutado como está sendo pelo Trump, para mim, o que fica é que já é a luz vermelha. O que o Trump fez já é o suficiente para que empresas no mundo inteiro comecem a se preocupar em buscar alternativas aos serviços de uma única empresa norte-americana. Precisamos ter alternativas. (25:35) Lembrando que, há alguns anos, o Banco Central, na Resolução 4.893, já trouxe a necessidade de ter uma alternativa a uma determinada nuvem. É difícil imaginar um cenário como o atual e que ele possa escalar. Acho que, em termos de tecnologia, não vai adiante, porque seria um tiro ainda mais forte no pé das empresas de tecnologia norte-americanas, mas a possibilidade existe. Para muitas empresas, seria o caos. (26:21) O episódio sobre o governo Obama foi o 98, de março de 2016. Para quem quiser acompanhar, já faz mais de nove anos. O ponto central é a confiança. Para o direito, a confiança é muito importante. No direito dos contratos, por exemplo, é a partir dela que uma parte confia que a outra se comportará da forma como indicou que faria. (27:29) Isso em contratos, não em relações internacionais. Mas a confiança é importante em qualquer relação, até entre pessoas e animais. Quem tem animal em casa sabe que existe um aspecto de confiança. (27:52) Quando colocamos isso na perspectiva de estados e uso de nuvem… hoje só se fala em inteligência artificial. Já estamos ultrapassando a febre da proteção de dados. Mas houve um momento em que a grande febre era a nuvem. Escrevi artigos sobre nuvem, modalidades, responsabilidades, problemas tributários. No fundo de tudo isso está a confiança. (28:26) Lembrei-me hoje da fala de Richard Stallman, um grande defensor do software livre. Um cara problemático, extremista, mas com uma certa razão em suas críticas. (28:59) Independentemente disso, a crítica dele à nuvem é interessante. Em 2018, ele disse duas coisas. Uma razão pela qual você não deveria usar aplicações web é que você perde o controle, o que é tão ruim quanto usar um programa proprietário. “Faça sua própria computação em seu próprio computador com sua cópia de um programa que respeita a liberdade. Se você usar um servidor web de outra pessoa, você fica indefeso. Você vira massa de modelar nas mãos de quem desenvolveu aquele software”. O uso da nuvem seria uma armadilha para atrair usuários a confiar seus dados a sistemas proprietários que estão além de seu controle. (30:13) Todo o uso da nuvem hoje se baseia em uma relação de confiança nas big techs e uma confiança interestatal de que os estados não usariam essa dependência contra os próprios países que utilizam os serviços. Confiava-se que os Estados Unidos não fariam isso. (30:53) Criou-se essa dependência. Todo mundo usa nuvem americana, agora todo mundo usa IA. Falo “todo mundo” em modo de dizer, mas é quase isso. AWS, Google, Microsoft e por aí vai. (31:20) Saiu uma reportagem… Quem nos acompanha sabe que o Brasil, em um momento, foi um caso interessante de uso de software livre na administração pública. Com o tempo, acho que isso muda no governo Temer, o governo federal passou a adotar serviços de nuvem americanos, levando outros entes a fazerem o mesmo. (31:56) O Jamil Chade trouxe um número interessante: um grupo de entidades criou a “Carta pela Soberania Digital” e disse que o Estado brasileiro gastou R$10 bilhões em um ano com big techs. O problema não são os 10 bilhões, pois serviços digitais têm custo. A questão é o Estado brasileiro estar dependente de infraestruturas tecnológicas mantidas por outros estados. (32:30) É aí que chegamos à Lei Magnitsky, aplicada pela primeira vez contra o Brasil, contra Alexandre de Moraes. Além das questões bancárias, que não nos interessam aqui, começou-se a dizer: “Eles podem impedir que Alexandre de Moraes utilize serviços de nuvem americana, e isso poderia atingir o STF inteiro, que usa Microsoft”. (33:17) A Microsoft veio a público recentemente e disse: “Não se preocupem, não vamos bloquear os acessos de Moraes nem os serviços do STF”. Além da nuvem da Microsoft para e-mail, eles usam YouTube para transmitir sessões e Zoom para comunicação interna. Uma série de outras coisas poderiam ser bloqueadas. (33:53) Pensem se isso pode ser feito com a Suprema Corte de um estado amigo dos Estados Unidos, por razões que, aliás, parecem injustas. O próprio William Browder, ativista que foi cliente de Sergei Magnitsky, o advogado russo que inspirou a lei, disse em entrevista que essa sanção não é proporcional e adequada para o que a lei foi criada. (34:35) Minha preocupação, e acho que você a compartilha, é: até onde é possível ir para defender os interesses de grandes empresas? Até onde um estado seria capaz de ir? É por isso que acho que o mundo inteiro deveria estar preocupado hoje, porque um pedaço da confiança criada no uso de serviços de nuvem quebrou agora. Você diz que não sabe se os Estados Unidos iriam tão longe; eu já não tenho tanta confiança assim. (35:50) Eu acho que não conseguem ir tão longe. Já gravamos sobre o alinhamento entre as empresas de tecnologia e o governo norte-americano. (36:11) Por um lado, as big techs todas correram para se alinhar com Trump, acabando com políticas de inclusão porque existe uma mão pesada do governo para que o façam. Por outro lado, elas também têm um lobby muito forte. O mais escancarado foi o de Elon Musk, mas os outros fazem de forma mais silenciosa. (38:35) Essas empresas têm dinheiro para fazer lobby. A Microsoft está entre as maiores do mundo, assim como Google e Nvidia. A Nvidia é a maior empresa do mundo. Ela tem dinheiro para lobby. Existe uma tensão entre os interesses dessas empresas — de não serem vistas como inseguras ou sujeitas a interferências governamentais — e as pressões do governo. (39:36) Quando você usa um serviço de nuvem, está confiando seus dados, seus serviços. Se sua empresa vende um serviço na nuvem da Amazon, e aquilo cai, você não vende mais. Existe um interesse delas em manter essa confiança. (40:22) Nessa esteira, a Nvidia foi restringida pelo governo americano de vender seus chips mais poderosos de IA para a China. Isso não foi no governo Trump. Os EUA têm grande preocupação com o desenvolvimento de IA por outros países, principalmente a China. As ações da Nvidia caíram na época. (41:17) Recentemente, após negociações, a Nvidia voltou a poder vender processadores mais potentes para a China. E agora, a Administração do Ciberespaço da China convocou a Nvidia para explicar riscos de segurança nos chips H20, a versão mais fraca. A China acusa a Nvidia de ter colocado nos processadores mecanismos de geolocalização, acesso remoto e desativação remota. (42:40) A Nvidia nega, dizendo que não tem backdoors. A China apontou que alguns legisladores norte-americanos demandaram certos controles desse tipo para exportação. Olha a confiança de novo. (43:21) A Nvidia está desesperada, dizendo que não colocou nada. Ao mesmo tempo, a tecnologia para criar esses chips está na TSMC, em Taiwan. A China não tem essa tecnologia, mas não é boba. Ela sabe com quem está lidando e tem tecnologia, coisa que o Brasil não tem, para desenvolver esse tipo de chip. (44:14) A China tem várias empresas, como a Huawei, trabalhando no desenvolvimento desses chips. Ela vai encontrar um jeito. Lembre-se do DeepSeek, que no início do ano mostrou que a China conseguiu desenvolver um modelo tão potente quanto os da OpenAI com uma fração do custo. Eles estão se movendo, pois sabem que não podem depender dos EUA. (45:37) E não é só o Trump. O passo importante que Trump deu foi querer desregular o desenvolvimento de IA para acelerar ao máximo e conseguir a inteligência artificial geral antes de qualquer outro país. Se você ouvir Dario Amodei, da Anthropic, ele diz, desde antes do governo Trump, que o acesso a essas tecnologias tem que ser cuidadosamente restringido para não cair em mãos de atores maliciosos. Em essência, ele defende que os EUA devem ter o controle. (47:19) Essas restrições não são especificamente de Trump; vêm de várias administrações. Não é teoria da conspiração. Procurem entrevistas de Dario Amodei sobre segurança e o futuro da IA. (47:39) Eu tendo a discordar um pouco. Os Estados Unidos sempre foram protecionistas. Lembre-se das crypto wars. Mas o ponto fora da curva do governo Trump foi usar medidas como a Lei Magnitsky, que não foram criadas para isso, para interferir na autonomia legislativa e judicial de um país amigo. (48:17) Isso me surpreende. Tenho críticas à decisão do STF, como o dever de monitoramento contínuo, que me parece problemático de implementar. Mas daí a usar questões comerciais para forçar a anulação de uma decisão da Suprema Corte de outro país porque prejudica interesses de big techs… isso é impor a vontade de um país estrangeiro. (49:11) Se essa é a ideia, o Brasil perderia sua soberania, que já me parece afetada pela dependência de serviços de nuvem americanos. Isso que você falou da relação da Nvidia com a China… já pensou os EUA sancionando empresas que usassem nuvens russas? (49:48) Há pouco tempo, o Google removeu o Kaspersky da Google Play. Se eventualmente as empresas migrarem para a nuvem chinesa, os EUA podem querer sancionar quem o fizer, assim como ameaçam sancionar quem tem negócios com os russos. (52:55) No fundo disso, e já para concluir, está a importância dos serviços de nuvem e redes sociais para os governos atuais. Estamos vendo uma crise diplomática entre dois países amigos, talvez a maior em 200 anos, por causa disso. (53:39) Isso quebrou um pouco a confiança nos serviços de nuvem. Acho que todos deveriam estar preocupados, não apenas governos, cuja soberania é afetada, mas também empresas privadas, que podem ficar à mercê de devaneios de um governo imprevisível. (54:42) É difícil saber para onde correr. O posicionamento histórico do Brasil foi de neutralidade, não tomar partido. Se brigar com um lado, é obrigado a se jogar para o outro. (55:19) Entre os dois gigantes, China e Estados Unidos, eu ainda tenho na cabeça — e posso estar errado — que o governo chinês, com seu controle sobre a internet, causa uma certa aversão em comparação com um ambiente mais livre como o americano, embora também com seus problemas. (56:47) Seria um péssimo negócio para o Brasil sair correndo para a China. Por outro lado, depender só dos Estados Unidos também é ruim. Para mim, fica claro que, principalmente em operações críticas, tanto o poder público quanto os setores da economia precisam ter alternativas. (58:02) Para uma instituição de ensino, por exemplo, se o Google parar de fornecer e-mail, e não se puder usar Microsoft, o que fazer? Implementar seu próprio serviço? O custo é absurdamente maior. O que me preocupa é toda a infraestrutura da nuvem. (59:52) Sem contar pacotes Office, bancos de dados na nuvem… muitos dados de empresas brasileiras estão no Texas. Se estão cogitando sancionar bancos brasileiros, seria muito mais fácil dizer a uma empresa americana com sede no Brasil: “Deixe de prestar tal serviço”. (1:00:55) No fundo, será que essa quebra de confiança não prejudica as empresas americanas? A Microsoft se posicionou dizendo que não ia bloquear. Por quê? Se ela fizer isso, a confiança nela se esvai. Talvez as empresas comecem a procurar alternativas. Talvez os governos invistam mais em desenvolver soluções próprias. (1:02:11) O Brasil tem que começar a investir massivamente em desenvolver tecnologia de ponta aqui dentro. Estamos atrasados. Para IA, já temos um plano do governo, mas na prática, os processadores dependemos de estrangeiros. O governo brasileiro já estava contratando a OpenAI. (1:02:53) Parece que agora teremos que reavaliar nossas modelagens de ameaças. Quando falamos em continuidade, é um novo cenário para o Brasil, até que as coisas se resolvam. Está no cenário a possibilidade de impedir que entes públicos ou privados utilizem a nuvem americana. (1:03:40) Há mais chance disso acontecer agora do que no passado. Eram pequenas, mas agora são maiores. Se não houver um movimento de longo prazo para construir alternativas (10, 15, 20 anos), o atropelamento que já vai acontecer será pior. O Brasil não está na briga pela IA. (1:04:42) A coisa é tão grave que você pode chegar a ser obrigado a usar as soluções de um país. Não é “vou te sancionar se usar o russo”, é “vou te sancionar se não usar a minha nuvem”. (1:05:05) Lembre-se da discussão sobre a balança comercial. Posso ver quanto um país gasta com nuvem americana e sancionar os que não gastam o suficiente. Estou levantando uma hipótese, mas isso já acontece com produtos. Se a hegemonia americana depende do uso de seus serviços, estamos vendo uma reorganização do mundo que valoriza IA e serviços de nuvem americanos. (1:06:02) Nosso próprio podcast, sem tecnologia norte-americana, não estaria acontecendo. (1:06:20) Sem tecnologia americana, conseguiríamos continuar gravando, mas não teríamos YouTube, talvez Spotify. O Archive.org, que usamos, é americano. Está na Califórnia. (1:07:03) É delicado. O cenário com a IA só complica mais, especialmente considerando o mercado financeiro. As consequências são imprevisíveis. (1:08:00) Em termos pragmáticos, em computação e software, apesar do software livre, não há nada que chegue perto do que usamos no dia a dia em escala e facilidade de uso. (1:09:12) Entramos em um nível de dependência que se desenvolveu ao longo de muitos anos e não será fácil de reverter. É como arrancar uma praga que já tem raízes profundas. A coisa está tão enraizada no nosso ambiente corporativo e público que nos torna muito dependentes. (1:10:09) Tínhamos esperança na época do software livre no governo, mas depois jogaram a toalha. Eu gostaria muito de estar errado. Espero que minha forma de ver todo esse fenômeno seja inadequada, porque se estivermos certos, isso vai nos manter em um estado de dependência que vem desde o Brasil colônia. (1:11:00) Não só nós, mas o mundo inteiro ficaria muito dependente, sem conseguir se desenvolver como bem entende. (1:11:16) Por isso eu gostaria de estar errado. Se alguém disser que estou errado, que bom. (1:11:32) No mundo ideal, os estados voltam a um ponto de equilíbrio, as empresas ganham seu dinheiro de forma honesta, sem explorar dados, garantindo segurança e acesso para todos. Mas esse é um extremo. O outro extremo é um cenário em que todos são maus e as big techs querem dominar o mundo. A resposta está em algum lugar no meio. (1:13:00) A dificuldade é saber quem está onde. O Brasil tinha tudo para liderar um movimento de autonomia, não só aqui, mas na América Latina. Tem capital humano, tem dinheiro. Mas certos estados não veriam isso com bons olhos. A questão é: até onde eles estariam dispostos a ir para impor sua hegemonia? (1:13:59) Vamos ver o que vai rolar. Há um movimento para montar data centers no Brasil, especificamente em Eldorado do Sul, ao lado de Porto Alegre. Assisti a um bate-papo no Instituto Fernando Henrique Cardoso sobre data centers para IA no Brasil. O país tem energia renovável e água, importantes para o resfriamento. Tinha umas 30, 40 pessoas assistindo. Pouquíssima gente. (1:15:15) O pessoal falava de soberania nacional. Eu comentei: “Tudo bem ter o data center aqui, mas o hardware vem de onde?”. Na época do Snowden, estavam mexendo em roteadores da Cisco que vieram para o Brasil. O software que vai rodar nesses data centers também não é nosso. (1:16:22) Se a OpenAI deixar seus modelos rodarem aqui, certamente haverá um kill switch. Assim como a TSMC, que fabrica os chips para Intel e Nvidia, tem um kill switch. A preocupação é a China invadir Taiwan. Eles desligam a tecnologia. O que aconteceria se tivéssemos data centers aqui com tudo estrangeiro? Se nos ameaçarem, desconectamos o Brasil da internet e nossas coisas continuam funcionando? (1:17:51) Vi um filme com Rami Malek, “O Amador”. Ele é um hacker da CIA. É bem legal. A mulher dele é morta e ele persegue os assassinos usando suas técnicas. Em uma cena, ele aperta um botão e os servidores começam a ser apagados, com os HDs pegando fogo. Lembrei disso quando você falou em kill switch. (1:19:37) Vamos terminando. (1:19:38) É isso. Agradecemos a todos que nos acompanharam. Nos encontraremos no próximo episódio. Até a próxima. (1:19:51) Beleza, pessoal. Quem nos acompanha no YouTube, um abração. Esqueci de fazer a propaganda no meio do episódio. Você que nos ouviu até agora, por favor, lembre-se do sininho, like, comentários, para nos ajudar a divulgar o podcast. Abração. Tchau. | — | ||||||
| 7/14/25 | ![]() #397 – Grok, big techs e tarifas, invasão de carros e biometria em condomínios | Neste episódio comentamos sobre a IA Grok de Elon Musk gerando conteúdo nazista, a suposta influência de big techs nas tarifas de Trump ao Brasil, e a banalização da biometria em condomínios. Guilherme Goulart e Vinícius Serafim aprofundam os perigos da IA sem controle, analisando como o Grok de Elon Musk reproduziu discursos de ódio e antissemitismo após ter sua moderação de conteúdo relaxada. O episódio explora a complexa teia de interesses na guerra comercial de Trump, investigando a pressão das Big Techs sobre o Brasil em temas como LGPD e regulação da IA. A discussão avança para a cibersegurança automotiva, com uma nova vulnerabilidade de Bluetooth que permite o hacking de carros, e os riscos do uso de biometria e reconhecimento facial em condomínios, questionando a privacidade e a proteção de dados. Para não perder futuras análises, assine o podcast Segurança Legal na sua plataforma de áudio preferida, siga-nos nas redes sociais e deixe sua avaliação. Visite nossa campanha de financiamento coletivo e nos apoie! Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Caso C&M: prejuízo com ataque hacker e fraude no Pix pode superar R$ 1 bilhão Sou obrigado a fazer reconhecimento facial no meu prédio? Veja perguntas e respostas sobre o tema Relatório revela que ameaça de Trump de investigar Brasil atende a Big Techs Análise: entenda os interesses das big tech na carta de Trump ao Brasil PerfektBlue Bluetooth Vulnerabilities Expose Millions of Vehicles to Remote Code Execution Episódio #81 – Cherokee Remote Control 📝 Transcrição do Episódio (00:01) [Música] Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 397, gravado em 14 de julho de 2025. Eu sou Guilherme Goulart e, junto com Vinícius Serafim, trago para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá aos nossos ouvintes. Olá aos internautas. (00:26) Como vão? Tudo certo? Tudo bem? Vocês já sabem, este é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Então, pegue o seu café ou a sua bebida preferida. No caso, hoje estamos com chimarrão aqui, Vinícius, e venha com a gente. Hoje está quente. Hoje é dia de tomar água. (00:44) Para entrar em contato conosco, você já sabe, basta enviar uma mensagem para podcast@segurançalegal.com ou também nos encontrar no Mastodon, Instagram, Bluesky e YouTube. Se você nos ouve pelo feed, sabe que também consegue ver os nossos rostinhos bonitos lá no YouTube. Vinícius, uma pequena atualização sobre o caso CM, o caso do nosso último episódio, o grande hack dos últimos tempos, senão o maior hack, a maior fraude já cometida no Brasil, pelo menos é o que se tem até agora. (01:20) Em termos de valores, sem dúvida nenhuma, é o maior. Não em dados, mas em valor financeiro movimentado. A coisa realmente se concretizou no sentido de se confirmar que deve, sim, passar de 1 bilhão. Não sei se chega a três, que chegou a ser discutido, chegou a ser falado em 3 bilhões de reais na questão da fraude. Se você não sabe do que estamos falando, tem que voltar nos episódios anteriores. No anterior, na verdade. (01:53) No 396. É o caso do REC bancário, CM, Banco BMP e tudo mais. Isso. O que temos que talvez não comentamos na semana passada, porque aconteceu depois, ou pelo menos ficamos sabendo depois, é que a Polícia Civil entrou também na investigação. Existe uma investigação paralela da Polícia Civil. (02:17) O que temos até o momento é que a BMP confirmou o prejuízo de 541 milhões. Outras duas instituições confirmaram 104 milhões e outra, 49 milhões. Isso ainda não dá 1 bilhão, mas a soma preliminar, segundo o que sabemos, supera 1 bilhão, embora não tenhamos a listagem de tudo o que foi perdido. Não temos a listagem exata de quem perdeu o quê. (02:45) Então, sim, passou de 1 bilhão e vamos ver se chega nos três que o pessoal chegou a comentar na semana em que gravamos. A outra questão, que vocês já sabem, é que o dinheiro foi convertido, em boa parte, para criptomoeda. Existe uma investigação para seguir o caminho do dinheiro, mas, em última análise, ele vai chegar a uma exchange que vendeu criptoativos, e alguma conta legítima recebeu esses criptoativos e os passou para algum lugar. E aí, boa sorte. Mas esses intermediários a polícia vai conseguir levantar, e está levantando. (03:23) Não sabemos se já não levantou. Então, a Polícia Federal e a Polícia Civil estão fazendo investigações paralelas sobre este caso. Um bilhão está confirmado. (03:44) Por enquanto, ainda não temos informação técnica, não temos mais nenhuma novidade, pelo menos não por enquanto. A própria CM frisou que a questão foram as credenciais que o atacante conseguiu, e não uma falha no sistema, uma falha de segurança no sistema. O termo que ela usou, mas entendemos muito bem que, na mídia em geral, ela tem que… O termo que o pessoal usa… Ela falou que não é nenhum problema no código-fonte dela. (04:17) Leia-se: ela está dizendo que não foi uma vulnerabilidade no sistema, uma vulnerabilidade técnica no sistema. Pode ter sido, e pelo visto existe, tanto que aconteceu, uma vulnerabilidade do ambiente. Se vocês pegarem a ISO 27002, que tem os controles da ISO 27001, verão que, quando falamos de segurança da informação, não se fala apenas da segurança técnica da aplicação, as vulnerabilidades que ela tem, se está exposta ou não, superfície de ataque, esse tipo de coisa, mas abrange, entre outras coisas, processo de contratação, gerenciamento de credenciais e até liberação de usuários, controle de acesso a certas operações e tudo mais. (05:01) Então, sim, a CM está correta. Se não há vulnerabilidade no sistema, está correta em dizer que não tiveram um problema por causa do sistema. Mas, sim, eles tiveram um problema de segurança no ambiente deles, que permitiu que alguém subornasse um funcionário. (05:25) E esse funcionário fez alguma coisa que ainda não sabemos o que é. Executou scripts, executou comandos etc. Ok, mas que comandos exatamente, o que foi, nós não sabemos, ou pelo menos não chegou até nós ainda. (05:43) E ele conseguiu credenciais de clientes da CM, que é a BMP e outras empresas, e mexeu no dinheiro deles, conforme o episódio 396. Tem outra coisa que não comentamos: essa é uma característica de fraudes dessa natureza. Já gravamos sobre isso várias vezes, já falamos sobre a questão da confidencialidade das informações e sobre como as instituições, em geral, ao redor do mundo, acabam lidando com isso. Elas não têm incentivos nem interesses de trazer a público todas as explicações das falhas, porque isso pode comprometê-las de formas muito diferentes. (06:22) Mas uma coisa que não comentamos, e aí sim há uma obrigação legal, são as comunicações necessárias do incidente de segurança que eventualmente envolva dados pessoais. Eu não vi nas notícias, até agora, nenhuma informação sobre tratamento ilícito de dados pessoais. Mas, se formos partir do pressuposto de que o sujeito teve um acesso tão longo aos sistemas, se ele criou transações Pix, se ele forjou transações Pix, ele provavelmente não forjou transações apenas de pessoas jurídicas. (07:05) Ele também pode ter forjado transações Pix de pessoas físicas. Se isso aconteceu, o incidente também envolveu tratamento ilícito de dados pessoais e, portanto, deveria contar com a notificação à ANPD. Achei curioso não ver nenhuma informação sobre isso, sobre essa questão de dados pessoais, porque se ele teve um acesso tão profundo aos sistemas, diria que não podemos descartar a hipótese de que ele tenha copiado dados de pessoas físicas. (07:39) Portanto, aí sim, teríamos um incidente de vazamento de dados pessoais, para além das questões do furto. É, mas não sabemos exatamente como foi feita a auditoria. O pessoal pode ter avaliado isso e descartado. “Olha, não aconteceu.” (08:02) Mas aí os titulares de dados que eventualmente sofreram uma invasão deveriam ter sido avisados. Se isso tivesse acontecido, acho que já teria vindo a público. Mas, se foi feita a auditoria e foi visto que ele não fez nada, que ele executou operações e não fez extração de dados, não tem sentido dizer o que não aconteceu. Agora, se o cara tivesse extraído alguma coisa, mas me parece que, se eu estivesse no lugar desses atacantes, eu faria a coisa o mais direta possível. (08:44) Por isso que eu falei, para quê explorar? Se tinha uma pessoa lá dentro que tinha acesso, era desenvolvedor… (08:59) Pegar dados para fazer fraudes, para quê, se eles podem movimentar mais de 1 bilhão de reais em criptomoeda? Não tem porquê. É passar o rodo, como se diz. Você não vai lá juntar o copinho d’água, você pega o rodo e empurra tudo. E foi o que esses caras fizeram. Mas, enfim, é isso. Quem não sabe exatamente o que dissemos, vá dar uma olhada no 396. (09:26) Por enquanto, não temos muitas novidades, nada muito novo. Quem acompanhou as notícias nos últimos dias, sobretudo na semana passada, viu um comportamento meio chocante do Grok, Vinícius, que ganhou bastante atenção da mídia. (09:47) Pois é. (09:52) O Musk… bom, acho que, a estas alturas, todo mundo sabe quem é o Elon Musk e sabe muito bem das transformações que ele tem tido em termos de atuação pública. Era um cara que, se vocês ouvirem episódios bem antigos do podcast, eu achava muito legal o esquema da SpaceX. Cheguei a comentar na época, há anos, acho que foi na pandemia, Guilherme, que a SpaceX pousou aqueles dois foguetes, a primeira vez que eles pousaram juntos sem explodir. Eram três, um sumiu, mas dois pousaram juntos. (10:25) Aqueles boosters, eu não sei o nome, mas os foguetes da SpaceX. Eu achava muito legal. O esquema da própria Starlink, um negócio muito interessante, o investimento em carro elétrico. Só que, ao mesmo tempo, à medida que foi passando o tempo, começou a surgir um lado mais político do Musk. Para quem quiser saber mais detalhes, não vamos entrar nisso, mas deem uma olhada sobre o Musk e a filha dele que fez transição de gênero. (11:03) Ele deserdou a filha, foi uma bagunça essa questão pessoal dele. E ele adotou essa agenda que o pessoal chama nos Estados Unidos de “anti-woke”, contra a questão das minorias, de inclusão e tudo mais. Tanto que o Trump entrou e conseguiu, dentro do governo federal, meio que zerar esse negócio de políticas de inclusão e combate a preconceito. (11:42) E ele conseguiu meter a mão em algumas empresas também. O Musk entrou de cabeça nessa história, ele estava reclamando que as IAs eram muito “woke”, que elas respeitavam demais as coisas. (12:16) Ele estava dizendo que o próprio Grok, a IA dele, da xAI, era muito “woke” também. Então, no dia 4 de julho, ele libera uma versão do Grok mais livre, com um “toquezinho de free speech a mais”, e disse: “Agora vocês vão ver que o modelo está melhor, entrou o Grok versão 4 e vocês vão perceber diferenças nele”. (12:47) E, de fato, na sequência, o Grok foi conectado ao X. Lembra de uma empresa, Guilherme, que fez a mesma coisa uns anos atrás e que a gente comentou? Você está falando da Microsoft? Aham. Que botou a Tay no ar. Lembra disso? Lembra o que aconteceu? Em 24 horas virou uma IA neofascista, deu uma loucura. (13:10) E tiveram que tirar do ar. O Grok… a data de quando isso aconteceu foi 2016, portanto, há 9 anos, Vinícius. E, só um parêntese, de 9 anos para cá, as possibilidades de moderação dentro das IAs se alteraram bastante. É outro mundo hoje de moderação. (13:38) A gente percebeu mudanças desde que começamos a usar os chats, ali em 2022, quando saiu o ChatGPT para acesso público. Viemos brincando com isso há um tempo e percebemos mudanças nesses controles. Era muito mais fácil fazer o ChatGPT “pirar” e gerar coisas inadequadas em 2022/2023 do que agora. (14:01) Agora é bem mais difícil. E, ainda assim, o Ilya Sutskever saiu da OpenAI e uma das coisas que ele apontou é justamente esse problema de alinhamento, que envolve, entre outras coisas, esses filtros e controles do que a IA pode dizer ou não, ou como dizer. Bom, mas aí o Grok foi pelo mesmo caminho da IA da Microsoft, o que aconteceu há 9 anos. (14:30) Ele não alucinou. O Grok, assim como todo LLM, é treinado com tudo o que tem na internet. Então, não tem como fazer com que o modelo não saiba… a gente discutia isso mais cedo, Guilherme. Não tem como fazer com que o modelo não saiba o que é nazismo ou o que aconteceu, os discursos de ódio. (14:55) Não tem como fazer a IA, o modelo, não conhecer isso. Então, isso está lá dentro. Misoginia está lá dentro, todo tipo de coisa absurda que você imaginar está lá dentro do modelo. E, claro, está latente. As associações que permitiriam ele conceber um discurso nazista ou racista estão presentes lá. (15:20) Estão presentes na nossa cabeça também. Só que a gente não o faz por uma questão moral. Tem um filtro ético, um filtro moral, crenças. Tem uma série de coisas. Eu sei como fazer um discurso nazista, mas eu não vou fazer. É uma coisa que eu abomino. (15:45) A IA tem isso lá, e como ele afrouxou esses filtros, como ele deu uma reduzida no controle das coisas, uma calibrada para baixo, o Grok saiu fazendo posts nazistas no X. Inclusive, se autodenominando de “Mecha Hitler”. (16:12) E falando coisas absurdas, como “o Hitler saberia como lidar com os judeus”. Fazendo algumas inferências… o início nem foi tão direto. Não foi algo como “Ah, esses judeus não sei quê”. Não, ele pegou pelo sobrenome de uma pessoa, inferiu que a pessoa era judia e fez um comentário criticando-a, usando a linguagem que os antissemitas utilizam. (16:47) A IA aprendeu direitinho. E, lembrando, a própria IA foi treinada com o que tem no Twitter também. (17:03) Ela foi treinada com o que tem lá e também se alimenta em tempo real do que está sendo dito para responder. Em uma situação que você comentou comigo, que eu não tinha visto, nos “pensamentos” dela, ela começou a dizer algo como “avaliando como Elon Musk responderia”. Ao que parece, tentaram dar uma instrução para o Grok mais alinhada com o dono dele, mais ou menos isso. (17:39) E a coisa deu no que deu. Eles tiraram, desconectaram o Grok do X. (18:09) Falaram que vão botar controles mais severos sobre o que o Grok publica. “Fomos longe demais, vamos dar uma calibrada nesse negócio”. Vamos ver o que volta quando… nem vi se eles já conectaram o Grok de volta no X, mas a ideia é ligá-lo de volta com um filtro mais potente. (18:31) Eu já tinha percebido, Guilherme, que o Grok não era tão restritivo. E te digo que, dependendo da situação, ser restritivo demais é um problema. Na geração de imagens, o ChatGPT às vezes recusa pedidos que não têm problema nenhum, dizendo “É contra minha política gerar uma imagem…”. (18:49) E não tem nada demais no pedido. É ele que interpreta meio torto. Já o Grok, eu pedi coisas com violência explícita e ele gerou. Fui testar e ele gerou, enquanto o ChatGPT, por exemplo, se nega a gerar esse tipo de imagem. Então, esse ponto de equilíbrio é o que o Yuval Harari diz que é muito difícil de encontrar, porque a IA se comporta de maneiras inesperadas. (19:21) E desde aquele processo que comentamos em laboratório, em que a Claude AI bolou uma chantagem a um funcionário da empresa usando e-mails pessoais a que tinha tido acesso… isso em laboratório, gente, não é uma situação real… demonstra bem o tipo de coisa que pode acontecer se a IA não estiver muito bem alinhada com os objetivos. (19:51) Eu acho que são sinais de algo que quem estuda as repercussões éticas e legais das IAs já sabe: elas não são entidades. Embora produzam conteúdo que não foi colocado lá literalmente, ou seja, elas conseguem funcionar de forma estocástica e não determinística, como você muito bem disse, elas são treinadas. E o que temos avançado nos últimos tempos, como você colocou, são as medidas de moderação e controle, as camadas de moderação das IAs. (20:31) Aqui estamos falando de LLMs, mas hoje temos, o que é outro problema, uma série de IAs pequenas disponíveis na internet para fazer deepfakes envolvendo nudes. Você “tira a roupa” de pessoas, sobretudo de meninas. (20:50) Isso se tornou um grande problema em escolas. Então, primeiro, você tem a responsabilidade do mantenedor sobre o que aquela IA pode fazer. Ele deve ter uma responsabilidade sobre o conteúdo que está produzindo, porque não é algo banal. Você está tendo uma IA interagindo com as pessoas, reproduzindo conteúdo nazista. (21:16) Isso não é um probleminha, um detalhezinho, uma “calibração”. É algo que, claro, não sabemos como funcionam os mecanismos de moderação, mas não me parece que seja algo que foi colocado ou reproduzido sem uma intenção direcionada, nem que essa intenção seja de afrouxar certos controles que me parecem obrigatórios para qualquer LLM. E veja, não é conversar com um LLM perguntando detalhes da Segunda Guerra Mundial. É ele produzir um conteúdo que tem por baixo um juízo de valor muito prejudicial para o mundo e para a sociedade. (22:00) Por que estou dizendo isso? Porque a grande discussão que temos hoje é justamente essa intenção das big techs, sobretudo aquelas relacionadas com IA, mas hoje todo mundo está virando a chave para a IA. O X, que é uma rede social, tem uma IA. As empresas do Elon Musk têm uma IA. (22:25) Você começa a ver uma série de plataformas das big techs com essa intenção de produzir IAs. E qual é o problema? O problema é que a ideia por trás dessas empresas é que você tenha o mínimo de intervenção ou interferência estatal no que eles podem produzir, com a justificativa, que é legítima, de que isso é feito para manter a liberdade de expressão. (22:59) Sim, de fato, você tem que ter liberdade de expressão, claro. Só que a IA não é uma pessoa. É um ente computacional que vai produzir conteúdos, inclusive conteúdos criminosos e danosos, sobretudo para grupos que historicamente, no caso dos judeus, foram discriminados e mortos. Todo esse problema histórico que já conhecemos. Então, acho que é um negócio bem simbólico do que está acontecendo e do que pode acontecer se, de fato, não tivermos regulações para esse tipo de coisa. (23:28) E eu repito, estamos falando de conteúdo nazista, e não acredito que seja o tipo de conteúdo que deva vigorar e ser reproduzido, ainda mais por máquinas. Não foi nenhuma pessoa que publicou aquilo, o que já seria problemático e criminoso. Foi uma máquina. E aí, depois, temos a questão da responsabilidade. De quem? (23:51) Porque se fosse uma pessoa publicando isso, rapidinho alguém tomaria um processo, seria “cancelado” e tudo mais. Mas o pessoal não vai cancelar o Grok. Ao mesmo tempo, o Grok pertence a uma empresa. Se uma pessoa física vai lá e publica uma coisa dessas, aqui no Brasil, ela comete um crime. Não se pode dizer qualquer coisa, não se pode falar coisas desse gênero aqui no Brasil. (24:34) Mas como foi a ferramenta… Sim, mas a ferramenta, pelo menos por enquanto, não é um ente independente. A empresa tem que responder pelo que a ferramenta faz, não? E essa própria questão de “vou diminuir os filtros porque ela é ‘woke'” ou por qualquer que seja o motivo… A partir do momento que você toma a decisão de afrouxar os filtros, essa é uma decisão que traz para o decisor uma responsabilidade, ou pelo menos deveria trazer. (25:05) E, só para concluir, eu acho muito problemático, porque realmente é a demonstração clara dos problemas que podemos ter se esse tipo de ferramenta, se esse tipo de sistema não tiver regras mínimas de funcionamento. (25:32) É um germe do que pode acontecer, fora aquelas coisas que você não percebe, que é pior ainda. O fato de esse tipo de conteúdo estar dormente lá dentro. Se você não tem um controle muito grande, pode ter um direcionamento implícito, subliminar, levando em consideração essas ideias sem que elas apareçam de forma ostensiva no conteúdo produzido. Ela está por trás, subliminar, mas sem ser tão ostensiva como foi nesse momento, o que também é outro problema. (26:01) Ali apareceu o Grok. (26:09) Agora, pode acontecer de não parecer que há algo por trás. Mas só finalizo lembrando que já comentamos uma situação em que uma empresa aérea botou uma IA no chat, um cliente conversou com a IA, a IA alucinou, não foi bem orientada e inventou um esquema de reembolso. (26:50) Era um reembolso de passagem. Ela criou uma situação de reembolso que não existia, e a pessoa “Beleza, eu aceito”. Quando ela foi exercer o direito dela, a companhia aérea disse: “Não, isso não existe”. (27:12) E o cara foi para cima: “Mas a IA de vocês disse”. E eles tentaram argumentar: “Mas não fomos nós, foi a IA”. “Não, mas foi a IA de vocês”. A IA estava falando em nome da empresa, e a companhia aérea teve que honrar a oferta feita pela IA. Então, gente, cuidado. (27:38) A IA não é alguém que você chama para resolver um problema e depois diz: “Foi ela que fez mal feito”. Não, você a colocou para falar em nome da sua empresa. Tem que tomar muito cuidado com agentes de IA. (27:55) E nós vamos ver muita porcaria acontecendo nesse sentido, Guilherme. É o problema de você atribuir… Nós vamos ver muita coisa acontecendo com agentes de IA sendo postos para uso, as pessoas começando a usar com mais frequência chatbots de atendimento, e daqui a pouco vai ter uma fazendo bobagem. Aí vai ser lindo. (28:14) É a questão de atribuir personalidade jurídica, que é outra discussão dentro do direito da IA, sobre até que ponto, como e quando seria desejável ou viável atribuir personalidade jurídica para esses entes, com problemas até sobre desligá-los ou não. E daí toda aquela coisa mais de ficção científica. (28:41) O 2001 e aquela coisa toda. Eu só vou levantar a bola, mas não vou comentar: o Harari fala disso. A hora que a IA tiver reconhecida a sua personalidade… mas esse é outro assunto. (29:04) Bom, e só para terminar, esse é o problema dos tais riscos sistêmicos, um instituto previsto no AI Act e que foi mencionado na decisão do STF sobre o Marco Civil da Internet. Eles mencionam essas possibilidades de riscos sistêmicos. Mas vamos terminar por aqui, senão não vamos parar de falar desse negócio. (29:30) E, ligando com outro assunto, o episódio desta semana está bem polêmico. A gente tem visto, se você não esteve em uma câmara criogênica nos últimos 10 dias, todas as discussões referentes às tarifas que o Trump quer impor ao Brasil, tarifas de 50% para, acho, que todo e qualquer produto vendido no Brasil. (30:03) Aí você tem todos os problemas do que é exportado do Brasil. Por enquanto, ele está ameaçando. A tarifa entraria em primeiro de agosto, temos uns 15 dias ainda. É um problema se for realmente uma ameaça; você tem outro problema de interferência entre países, saindo da diplomacia, abrindo mão de tudo o que foi construído no comércio internacional. (30:28) Bom, esse não é bem o nosso problema aqui, mas a nossa questão é que, para muito além do óbvio, ou seja, daqueles produtos que são exportados, como suco de laranja, carne… eu lembro de cabeça de suco de laranja e aço. Não, comércio internacional nós deixamos para o Xadrez Verbal. Nós temos o problema de uma hipótese que se levantou de que, por trás dos interesses dessa carta, e para além das questões políticas que foram ostensivamente mencionadas, estaria também um outro problema. (31:12) Uma das razões da atuação dele de impor tarifas tão altas, acho que foi o maior valor entre todos os 26 países que receberam cartas semelhantes, fora a China, é que por trás disso estariam também os interesses das big techs. (31:35) E essa é uma questão que nos interessa, porque já vimos a atuação dessas empresas em várias frentes. Em projetos de lei, aqui, é quase famoso que o próprio Google falou que era o projeto que ia censurar a internet. Ou seja, colocou lá na página inicial de pesquisa do Google que seria um projeto que destruiria a internet. (31:59) Não lembro exatamente os termos. E, claro, é plenamente legítimo, em um regime republicano e democrático, que empresas tenham seus interesses manifestados, declarados e eventualmente considerados pelos gestores políticos. O problema é quando você tem uma captura de interesses por meio de lobbies muito poderosos, deixando o bem comum em segundo plano. (32:29) E a grande questão é essa: como equacionar e compatibilizar os interesses das empresas e o bem comum? Esse é o campo da política. Seja em um mundo ideal, seria no campo da política, das concessões, das discussões, que se chegaria a um equilíbrio desses interesses, de forma a não inviabilizar a atuação de uma empresa e, ao mesmo tempo, não sobrepor completamente os interesses públicos com os interesses dessas empresas. (33:02) O que estamos vendo agora, nessa hipótese, o Thássius Veloso, da CBN, e outros portais vêm colocando isso, é que uma instituição americana, a CCIA (Computer and Communications Industry Association), composta por empresas como Google, Meta, Microsoft, Amazon, Uber, Apple, Pinterest e eBay, lançou uma carta se manifestando alguns minutos depois da declaração ou da carta do Trump, que ameaçou impor as tarifas. Já estava preparado. Eles se manifestaram no seguinte sentido: (33:44) “A CCIA saúda a atenção da administração em relação às barreiras do Brasil contra exportações digitais dos Estados Unidos por meio de uma investigação deliberativa da seção 301 sobre os prejuízos causados por tratamento discriminatório”. E eles teriam se referido nessa carta a questões como a própria suspensão do X, que se deu aqui no ano passado. Falaram até sobre a “taxa das blusinhas”, que na verdade foi o Remessa Conforme, a colocação dos impostos previstos e adequados. (34:18) O limite sem imposto na lei era de $100, aí tinha uma portaria da Receita Federal que baixava para $50. E sempre foi uma coisa maluca, porque, embora na maior parte do tempo esses valores não fossem taxados, e até valores maiores, eventualmente, eu tive coisas que custavam 7 reais, um troço absurdo, que foram taxadas. Era um processo meio maluco. Agora é tudo taxado, não tem mais. Quem faz parte do Remessa Conforme, sim. Algumas lojas não fazem, e aí parece que você entra na roleta. (35:14) Mencionaram também a própria LGPD e sua aplicação. E o que me chamou a atenção nesse caso, veja, estamos falando da ameaça das tarifas de 50%, acompanhada da cartinha padrão, tirando a questão política que ele cita, falando que o comércio está muito ruim para os Estados Unidos, o que é uma desvantagem, quando na verdade não é. É superavitário para o Brasil. (35:50) Os Estados Unidos exportam mais para o Brasil do que o Brasil para os Estados Unidos. Então, você tem um problema de compreensão da própria realidade. E eles disseram que o governo americano deveria instar o Brasil, abre aspas, “a considerar as proteções de privacidade disponíveis nos Estados Unidos como adequadas sob a lei brasileira”. (36:21) O Thássius Veloso também comentou na CBN que a decisão do STF sobre o Marco Civil e as manifestações do presidente nos BRICS sobre a regulamentação da IA também teriam pesado. Então, não dá para saber exatamente quais foram as razões do Trump para fazer isso. (36:45) Claro, me parece que não são só questões econômicas, mas políticas também. O que muitos comentaristas têm falado, e me parece bem óbvio, é uma tentativa de interferência pela via de uma guerra comercial na ordem jurídica do país. Com essa possível atuação, essa hipótese de que as big techs também estariam por trás, você tem uma tentativa de interferir diretamente tanto no processo legislativo como no judiciário de um país estrangeiro, com os Estados Unidos tentando impor práticas não pela via da diplomacia. (37:26) Que seria a via adequada, e provavelmente não seria um caminho legítimo para fazer isso, mas em vez de fazer dessa forma, se faz por meio de uma guerra comercial. Veja, repito, estamos vendo os Estados Unidos dizendo: “Olha, vocês devem interpretar as nossas regras de proteção de dados como compatíveis com a lei brasileira”. E há uma série de problemas entre Estados Unidos e a União Europeia, são sistemas diferentes. (37:57) De repente, isso está sendo feito de uma forma um tanto quanto apressada e preocupante, colocando o Brasil numa posição muito delicada. Nós já temos uma série de dificuldades internas para legislar sobre proteção de dados, regulação da IA, eventuais controles em redes sociais. (38:23) De repente, você tem mais uma medida dessa que me parece bastante prejudicial à nossa própria autonomia enquanto país. Então, fica só a referência de que as big techs poderiam estar por trás disso também, e ficam, como sempre, os links nos “show notes” de comentaristas e órgãos de imprensa que têm levantado essa bandeira. (38:47) Guilherme, vou te dar algumas palavras e tu me diz o que aconteceu. Bluetooth. Mercedes-Benz, Volkswagen e Skoda. Essa eu não conheço. Você disse que ia falar uma notícia surpresa, mas acho que eu sei sobre o que é. (39:13) É uma possibilidade de invadir os carros por alguns módulos que teriam uma vulnerabilidade. Possibilidade não, eles encontraram uma vulnerabilidade. É um módulo de Bluetooth, o Blue SDK da Open Synergy, que é a empresa. A notícia está no The Hacker News, então estará nos “show notes” para vocês olharem com detalhes. (39:41) Mas o que dá para fazer são algumas vulnerabilidades que, exploradas em conjunto, permitem executar código arbitrário nos carros de pelo menos três grandes fabricantes: Mercedes-Benz, Volkswagen e Skoda. (40:12) Eles exploram essa vulnerabilidade e isso permite que executem códigos maliciosos no carro. Vimos algo parecido… mas, deixa eu te perguntar antes: quando você fala sobre um módulo, é algo físico? É um SDK, então imagino que seja um conjunto de coisas que faz parte da interface Bluetooth, certamente, e o software que faz o gerenciamento disso. Então, você poderia atualizar o carro? Depende do fabricante. (40:50) A separação é justamente o que eles comentam na notícia. No caso do Jeep Cherokee, se tu puder procurar isso, já faz 10 anos ou mais. Deixa eu ver. O que aconteceu com o Jeep Cherokee foi que os caras exploraram não via Bluetooth, mas via um acesso da empresa de telefonia. (41:18) Episódio 81. Nossa. Isso foi em julho de 2015. Quase 10 anos. Eu falei 10 anos, para fechar 10 anos. (41:41) Acertei, quase 10 anos. Naquela época, o Jeep Cherokee vinha conectado a uma companhia telefônica, não lembro o nome, como se fosse a Vivo ou a Claro no Brasil. E o pessoal da Jeep teve a ótima ideia: como vamos controlar o acesso aos carros? Você pode acessá-los remotamente. Eles disseram: “Você só pode acessar se tiver também um chip da mesma companhia telefônica”. (42:13) E foi o que aconteceu. Os pesquisadores compraram um chip da mesma empresa e conseguiram acesso aos carros, demonstrando isso na prática. A separação entre o sistema de informação e entretenimento e o resto do CAN bus, a rede local do carro para controlar tudo o que vocês imaginarem, desde limpador de para-brisa, volume do rádio, funcionamento do motor, ar condicionado… essa separação não estava bem feita, e os caras demonstraram um ataque em que controlaram tudo remotamente. (42:47) Está lá no episódio 81. Vão lá, tem as referências, inclusive um vídeo do ataque sendo feito. E agora acontece algo muito parecido, só que o que dá para fazer nos sistemas depende. (43:19) E eles chamam atenção para isso. Enquanto os sistemas de infoentretenimento são frequentemente isolados de controles críticos do veículo, o que no Jeep Cherokee, há 10 anos, não era… É o CAN bus que eu citei. Na prática, essa separação depende muito de como cada fabricante projeta a segmentação de sua rede interna. Segmentação de rede interna, gente, criar VLANs separadas, vale para o carro também. Tivemos um problema semelhante há uns 10 anos com a Boeing, quando lançou o Dreamliner. Um cara chegou a ser preso porque conectou-se via sistema de entretenimento e conseguiu controlar a aceleração do avião. (44:17) Ele usou o Android dele e chegou a mexer. Por ter feito isso, o pesquisador foi preso na época. A gente comentou aqui no podcast. (44:29) Deixa eu te perguntar, você falou sobre CAN bus e VLAN. Pode rememorar rapidamente para quem não tem intimidade com esses conceitos? O que isso significa? Significa que tem vários sistemas dentro do carro. É assim: na nossa casa, precisamos de Wi-Fi para o celular, tablet, notebook, TV. Tudo hoje está conectado. Então, temos uma rede local (LAN). Via de regra, as pessoas têm uma rede Wi-Fi e conectam tudo nela: TV, computador, celular, dispositivos smart. (45:49) E, quando chega alguém, pede a senha do Wi-Fi. Você dá a senha para seus amigos e vira uma grande bagunça, porque você não tem controle de acesso. Todo mundo vê todo mundo. Se alguém entrar na sua rede, pode ver e mexer nas suas coisas, acessar uma câmera. É muito ruim ter uma rede só para tudo. E no carro é muito ruim ter uma rede só para controlar o sistema de entretenimento e, ao mesmo tempo, coisas críticas como o motor, sensores de proximidade, freios, direção. (46:53) Não se pode colocar tudo isso na mesma rede. A Jeep fez exatamente isso 10 anos atrás e, dependendo, alguns desses fabricantes podem ainda estar fazendo algo nesse sentido. (47:16) O que se faz no carro não é uma LAN, é uma CAN (Controller Area Network). É uma rede que conecta sensores, atuadores, controladores, o rádio, o display. Então, da mesma forma que sua rede em casa deveria ser separada (uma para você e outra para visitantes), no carro deveria ser a mesma coisa. Acredito que, depois do que aconteceu com a Jeep, a maior parte dos fabricantes aprendeu. (48:12) A Boeing aprendeu também a separar essas redes. A rede Wi-Fi de entretenimento em um avião não pode ter comunicação com a rede de dados que interconecta os subsistemas do avião. É isso, Guilherme. (48:42) A CAN é essa rede no carro, a LAN é a sua rede em casa, e a segmentação é separar suas coisas dos visitantes. Eu separo bem mais a minha rede. E outra, Vinícius, o carro deixou há bastante tempo de ser meramente um dispositivo mecânico. É tudo eletrônico, controlado por computador. (49:14) É um computador, em última instância. Você tem um joystick ali e a porcaria do carro está online. Lembra quando você comprou seu carro e queria desativar algo, e meio que conseguiu e meio que não conseguiu? De lá para cá, agora nem tem mais como. (49:36) Ele está conectado o tempo todo, você não consegue desabilitar. E você tem todos os problemas de privacidade e proteção de dados, e a diferença entre security e safety. Se alguém invade o carro e isso for fácil de realizar, pode causar um acidente, sequestrar o carro. (49:54) Os golpes são inimagináveis. O meu carro tem um aplicativo que, no mínimo, permite saber onde o carro está, definir cerca eletrônica. Não dá para desligar o carro, acho que pensaram em não colocar tanta coisa no aplicativo. (50:25) Mas o caminho está ali. A funcionalidade pode não estar disponível, mas o caminho para chegar nela está lá de alguma maneira. (50:42) Dá para trancar e abrir portas, ligar o ar condicionado. Ligar o microfone dentro do carro? Não pelo aplicativo, mas, como eu disse, nunca fui atrás para ver até onde vai. Mas eu não tenho a opção de desligar essa porcaria. Não tenho o que fazer. (51:02) E boa parte dos carros está assim. Mas, enfim, é isso. Mais uma dessas, 10 anos depois. E olha que eu chutei que fazia 10 anos. É, tem tantas possibilidades. (51:24) Para terminar, Vinícius, há algum tempo, em um episódio recente, tínhamos preparado para falar sobre a questão da biometria, de como a ANPD iniciou uma tomada de subsídios para tratamento de dados biométricos no Brasil. (51:42) A ideia, acho que no início de junho, era coletar contribuições da sociedade para efetivamente trazer uma regulação para essa categoria de dados, que é uma categoria de dados sensíveis. Portanto, você tem hipóteses distintas, uma regulação diferente, e o controlador e o operador que tratam dados sensíveis, no caso biométricos, precisam tomar medidas adicionais, porque os dados sensíveis são aqueles que, em casos de tratamentos ilícitos ou vazamentos, além de atingir mais profundamente a personalidade do titular, têm maiores chances de vulnerabilizar a pessoa. (52:39) Pois bem, mas acabamos não tendo tempo. Hoje eu vi uma reportagem do G1, bem interessante, falando sobre a questão da biometria no Brasil. (52:52) Eu chamei de “a festa da biometria no Brasil”, porque temos visto e acompanhado uma certa banalização do uso da biometria não somente para autenticação, mas para controle de acesso físico. (53:11) Se você frequentou uma academia de ginástica nos últimos 10 anos, muito provavelmente precisa entrar lá com a sua biometria digital. (53:28) Qual é a grande questão aqui? Mesmo que tenhamos a possibilidade de uso de dados biométricos para controle de acesso, ainda precisamos aplicar os princípios da LGPD, conceder aos titulares o direito de exercitar seus direitos e fornecer todas as informações que embasam esses tratamentos de dados. (54:11) E o princípio que emerge com maior atenção é o da necessidade. Ou seja, toda e qualquer atividade de tratamento, além da finalidade, deve verificar se os dados coletados são necessários para atingir aquela finalidade. O velho exemplo que eu já contei: fui a um restaurante com menu eletrônico e, para tomar um chope e comer uma batatinha, eu tinha que dar meu celular, sem nenhuma explicação do porquê. (55:01) “Ah, mas posso fazer sem o celular?” “Até pode, mas…” “Não, eu só quero tomar um chope, não quero te dar meu celular.” Você tem a questão da necessidade. E, junto com essa situação, algo bem comum: o viés de automação, quase uma fanatização tecnológica, que hoje atinge a IA. Ou seja, a ideia de que colocar tecnologia em tudo, como reconhecimento facial, que invariavelmente envolve IA, seria sempre preferencial, sem a adequada análise dos riscos e sem a verificação da compatibilidade com o princípio da necessidade. (55:54) Dia desses, fui a uma galeria no centro de Porto Alegre. Na entrada da área de salas comerciais, você tem os sisteminhas de biometria facial. O mais interessante é que, quando você passa perto, ele põe um quadradinho na sua cara em uma tela. Sei lá como aquilo está funcionando, se já tentou me reconhecer enquanto eu estava passando como um transeunte. (56:32) Mas isso já funciona há muitos anos, não precisa de um LLM para fazer isso. O Yann LeCun já brincava com reconhecimento de caracteres. Depois, isso foi evoluindo. Bem antes dos LLMs, já tínhamos essa identificação de pessoas em imagens. Eu tinha um colega no doutorado na UFRGS, por volta de 2001, 2002, que estava usando machine learning para identificação de imagens com pornografia, para fazer um filtro dinâmico. (57:40) E ele tinha vários desafios na época, por exemplo, com corpos pintados no carnaval. A IA falhava. (58:25) Hoje, não vou dizer que é trivial, mas funciona muito bem. Os LLMs com a parte de imagem funcionam muito bem, o computer vision. Você tem todos os problemas que já conhecemos com a falha no treinamento, sobretudo com pessoas de pele negra, e isso sendo usado para fins de persecução penal. (58:45) O CNJ publicou uma regra recente sobre isso, mas enfim. Qual é o problema que se coloca aqui? Uma outra coisa de que se fala pouco na LGPD aqui no Brasil é a relação de fundo que justificaria o tratamento dos seus dados. No Brasil, é muito comum: escolho a hipótese e pronto. “A proteção ao crédito permite uma série de coisas”. Só que eu tenho que avaliar, além disso, qual é a relação de fundo que o titular tem comigo para justificar. (59:28) E aí chegamos ao problema dos condomínios. Essa é a “festa da biometria” de que trata a reportagem. (59:41) Eles dizem que 1 milhão de condomínios no Brasil já fazem o controle de acesso com biometria. Aqui no nosso não tem, mas no entorno já vi vários, com uma telinha na frente. (1:00:02) E quais são os problemas? Primeiro, eu tenho várias pessoas com tipos de relações diferentes com o condomínio: moradores (incluindo crianças e adolescentes, o que deixa a coisa mais complexa), visitantes, prestadores de serviços e entregadores. Tenho cinco, seis grupos de pessoas que, eventualmente, precisarão se submeter a um tratamento biométrico sem saber direito quem guarda os dados, qual a segurança desses sistemas, quais as práticas gerais no tratamento. (1:00:53) A reportagem entrevista um prestador de serviços que diz: “Ah, a responsabilidade pelo sistema é da empresa, mas a responsabilidade pelo uso dos dados seria do condomínio”. É mais ou menos, porque o artigo 42 da LGPD fala que o operador responde solidariamente quando descumpre a lei ou as instruções do controlador. (1:01:12) E quando você coloca um condomínio… teu pai já foi síndico. Eu me lembrei dessa história agora. Aqui no condomínio, as imagens das câmeras ficam em um computador largado lá no salão de festas, ligado. Você entra lá e vê as câmeras, acessadas pela internet. (1:01:35) O que deveria estar acontecendo é a necessidade de que o condomínio… e não estou falando isso só porque a BrownPipe presta serviço de apoio para adequação à LGPD. Visitem lá brownpipe.com.br. (1:02:02) Conheçam os serviços, vejam o blog da BrownPipe, inscrevam-se para receber semanalmente as notícias. Você está gostando deste conteúdo, Vinícius? Eu estou, estou curtindo. O episódio passado eu gostei muito. (1:02:22) Acho que ficou bem diferente do que vimos por aí. Então, se você, assim como o Vinícius, gosta do conteúdo que o Segurança Legal produz, considere apoiar em apoia.se/segurancalegal. (1:02:45) Você pode ter acesso à campanha, fazer parte do nosso grupo, conversar com a gente. Pois bem, eu dizia, não é só porque a BrownPipe presta serviços. Eu realmente acredito, enquanto cidadão e titular, que é problemático ter que me submeter a esse tipo de sistema sem os controles adequados, sem inclusive ter uma alternativa. A reportagem fala isso: é preciso dar alternativas aos condôminos que eventualmente não querem. (1:03:19) Você pode muito bem ter os mecanismos de autenticação biométrica, com todas as questões de segurança observadas, e também manter o sistema com as “tags” tradicionais para quem não quiser fornecer seus dados biométricos. Porque há um risco. Mais de 1 milhão de condomínios confiando nos sistemas de empresas que disponibilizam essas soluções, que acredito estarem funcionando pela internet. (1:03:57) Eu já vi as duas situações. Desde o computador largado numa sala fechada e úmida do condomínio… Em geral é assim. Até computador largado na casa do síndico, do zelador. (1:04:24) Com meu pai, no prédio, eles tinham uma salinha úmida. De uns anos para cá, a coisa tem sido cada vez mais online, porque é mais raro não ter internet no próprio condomínio, e fica muito mais fácil ligar isso a uma central. Ainda mais se tiver algum termo de uso que permita usar as informações para outra coisa. Mas, no geral, o que eu já vi desses sistemas… eu nunca testei a segurança, mas a gente tem aquele feeling… você olha a cara do sistema e pensa: “Isso aqui tem problema. Está meio estranho”. (1:05:24) Você vê umas coisas meio “enjambradas”. E esse lance de “o uso das informações é por conta do condomínio”… É, mas você tem um SaaS, um Software as a Service, conectado lá, com as informações mantidas em algum lugar. E a LGPD se aplica plenamente aos condomínios. (1:05:48) É um tema que não debatemos muito agora, mas, com essa banalização da biometria… Para dar um exemplo: precisamos fazer uma obra aqui no condomínio. (1:06:10) Contratamos uma empreiteira, e o síndico disse: “Vamos precisar contratar outro engenheiro para acompanhar o serviço da empreiteira”. O pessoal ficou: “Poxa, mas já vou pagar a empreiteira, por que tenho que pagar outro engenheiro?”. Ele respondeu: “A não ser que você seja engenheiro e consiga avaliar o trabalho. Eu não tenho condições”. E, de fato, o engenheiro precisou pedir para que refizessem uma série de questões. (1:06:40) Por quê? Porque você tem prestadores de serviços que, eventualmente, vão prestar o serviço mal. Com a LGPD, é a mesma coisa. (1:06:54) O ideal seria contratar alguém para te acompanhar nisso, para garantir um mínimo de segurança no tratamento de dados sensíveis e biométricos de sei lá quantos milhões de pessoas que estão sendo tratados hoje no Brasil. (1:07:12) Para terminar, eu fico meio indignado com isso, porque me indigna ter que ficar fornecendo a biometria facial para entrar na minha casa sem que ninguém consiga… claro, as pessoas não foram treinadas para isso, não conhecem o tema, mas não estão percebendo o risco e os problemas envolvidos. E não é só “ah, os dados vão vazar e podem tirar um empréstimo no seu nome”. É muito mais simples: eu tenho o direito de não dar os meus dados. Eu quero ter um método alternativo, que é plenamente factível, de entrar sem fornecer a biometria facial. (1:07:54) Porque acredito que talvez não seja o lugar mais seguro, ou eventualmente eu não quero. Aí vão dizer: “Então não entra, mude-se”. Esse é o problema de morar em condomínio, a maioria impõe a regra. A não ser que seja algo flagrantemente ilegal. Mas, eu te diria, se meu pai fosse síndico e tivesse uma oferta de um sistema desses que não fosse caro, ele adotaria muito facilmente. (1:08:31) E, se eu dissesse: “Mas tem esse problema…”, ele diria: “Vamos fazer o quê?”. É o pensamento mais comum. (1:08:50) Não é porque existe que temos que sair utilizando em tudo. Aumente o nível de segurança até onde você precisa. E o pior é que, depois, você chega a um condomínio desses, com biometria e tudo, e… aconteceu comigo. Fui a outra cidade, tinha um prédio com interfone, câmera… eu tentava entrar e não atendiam. Veio uma senhora, perguntei se a empresa tal era ali, ela disse que sim. Eu disse que não conseguia contato, e ela: “Ah, não tem problema, é no andar tal”. Abriu para mim e eu entrei com ela. (1:09:35) Acabou. Você põe um negócio com biometria e um monte de coisa… não precisa, não vai aumentar a segurança. Talvez tire um incômodo, dê uma sensação. Tem uma coisa interessante aí, Guilherme, e não dá para ignorar. (1:10:00) Em condomínios com chaveirinho RFID, aquelas “tags”, para copiar isso é ridículo de fácil. Eu tenho um copiador. Na internet, custa uns 30, 40 reais. (1:10:20) Não precisa ser um super copiador. Você gasta 100 reais e já tem um negócio que copia a tag. E aí, você perde o controle, porque é fácil de copiar e você não sabe quantas tags existem por aí. (1:10:43) Com a biometria, se eu quiser cancelar o acesso do Guilherme, eu cancelo. Eu sei quem tem acesso cadastrado. Então, de fato… estou vendendo o sistema de biometria, você vai ficar bravo comigo. Mas você tem um controle muito melhor com biometria do que com chave ou com tag. Com biometria, eu consigo saber quem está liberado, posso classificar os moradores, de tempos em tempos zerar os acessos de não moradores. (11:31) Você consegue manter isso atualizado. Com uma tag, você dá para o pessoal da obra e não sabe se vão passar para alguém ou copiar. “Ah, mas eu cancelo aquela tag”. Sim, mas pode ser a cópia da tag de alguém. Então, existe uma vantagem no uso da biometria em vez da tag ou da chave física. Eu não queria entrar nisso, mas me lembro do nosso episódio sobre o “teatro da segurança”. (12:16) Traduzimos na época o artigo do Bruce Schneier. E acho que se encaixa na questão do viés de automação e da fanatização tecnológica. As pessoas ficam maravilhadas com aquela telinha que filma seu rosto. (12:56) Mas, usando seu próprio argumento, a partir do momento que alguém permite que outro entre… vou te dar outro exemplo. Sigo uns grupos de fraudes. Alguns furtos são feitos com o cara se anunciando como entregador do Mercado Livre. Sábado à noite, 9 horas, toca o interfone. Eu sei que esses caras ralam para caramba, mas de repente um cara: “Você pode vir pegar a encomenda do apartamento tal porque ele não está em casa?”. Eu não vou descer quase 10 horas da noite para pegar uma encomenda. Provavelmente era legítimo, mas você percebe que a segurança física pode ser destruída. (13:55) É aquela velha história dos caixas 24 horas, que você tinha que passar o cartão para entrar. Depois, acabaram com aquilo. A gente falava isso nas palestras há 20 anos. (14:19) É uma questão muito mais complexa. Eu não te contrario no sentido de que é útil ou eficiente. Me preocupo com o exercício dos direitos do titular, a eventual oposição e a segurança do sistema que mantém tudo isso. Ele pode, sim, aumentar a segurança do ambiente. (14:46) Só que não podemos esquecer da manutenção, do cadastro de rostos, que eventualmente não vai funcionar. Esse processo de manutenção também pode trazer outros riscos que não vão compensar o gasto. E, eventualmente, uma chave física pode ser mais eficiente. O valor está caindo, só está sendo usado em condomínios porque o investimento caiu muito. (15:17) Já foi caro a ponto de ser coisa de filme, de ambientes super controlados. O preço cai e a tecnologia se populariza. (15:43) E aí começa a ser viável usar um leitor digital na academia. Aí entra a questão da comodidade versus a segurança e a percepção de segurança. Os valores aqui: por ponto de acesso, de 1.200 a 3.500 reais; o sistema para uma base de 1.500; e a instalação com portaria remota, 5.000 em média, com custo mensal de 1.000 a 2.500. Porque ainda tem a questão da portaria remota, abrir com aplicativo, que é outro problema. (16:42) Você fica pensando… é um assunto que me revolta. “Ah, mas o criminoso não sabe que eu tenho esse sistema”. Os caras acabaram de desviar um bilhão. Basta que o criminoso se dê conta de eventuais vulnerabilidades nesses sistemas, que eu diria que há muita chance de existirem, e você começará a ter exploração. Paga alguém para acrescentar uma biometria, ou para abrir o portão tal hora. (17:16) Que nem aconteceu na CM, paga 5.000 para o cara e ele te dá as credenciais. Como aconteceu no banco. É isso aí. (17:31) Vamos terminando. (17:37) Lembra que deixamos de fazer café quente, café frio? O café frio vai para o Grok, para o Elon Musk, que está cada vez mais doido e agora fez isso com o Grok, num momento em que todo mundo fala que tem que ter segurança na IA, superalinhamento, etc. (1:18:08) Eu dou o café frio para a banalização da biometria no Brasil. E o expresso? O expresso vai para a ANPD, que está recolhendo a tomada de subsídios para o tratamento de dados biométricos, o que pode trazer mais segurança para essas atividades. (1:18:32) Eu acompanho o relator, porque não tenho para quem dar meu café expresso. Agradecemos àqueles e àquelas que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima. | — | ||||||
Showing 25 of 432
Pitch Fit is a Pro feature
See how bookable this show is for guests, which brands already advertise, the per-episode ad value, and the best-fit guest and sponsor profile. The numbers are blurred on the free plan.
How readily this show books outside guests like you.
How proven this show is for host-read sponsorships.
For Guests
ProFor Advertisers
ProUpgrade to Pro to unlock guest cadence, sponsor categories, fit scores, and per-episode ad value for this show.
Chart Positions
5 placements across 5 markets.
Chart Positions
5 placements across 5 markets.
