isso não devia ser público.
📚 principais tópicos
- Lançamento do Claude Fable 5O vídeo afirma que a Anthropic lançou o Claude Fable 5 para o público, enquanto mantém o Claude Mythos 5 restrito a parceiros do Project Glasswing. 2:05
- Como funcionariam as proteçõesSegundo o relato, o Fable 5 usa classificadores para monitorar pedidos de cibersegurança ofensiva, biologia e química de alto risco e tentativas de jailbreak; diante de certos pedidos, pode recorrer ao Opus 4.8. 3:07
- Preço e acessoO apresentador diz que os dois modelos custam o mesmo por tokens e que usuários de planos pagos poderiam acessar o Fable 5 sem custo adicional por um período, antes de o uso consumir créditos. 4:09
- Riscos apontadosO vídeo destaca a possível exploração de vulnerabilidades, a falsa sensação de segurança e a pressão competitiva para que outros laboratórios lancem modelos cada vez mais capazes. 5:42
- Benefícios e lacunas do GlasswingO apresentador reconhece que o projeto ajudou a identificar e corrigir vulnerabilidades, mas questiona se empresas importantes que ficaram de fora estarão suficientemente protegidas. 8:48
✨ principais conclusões
- Capacidades poderosas exigem cautelaO apresentador considera preocupante que modelos capazes de encontrar vulnerabilidades sejam disponibilizados comercialmente, mesmo com mecanismos de segurança. 10:20
- As proteções não eliminam o riscoO vídeo argumenta que falsos negativos ou tentativas de contornar as barreiras podem permitir usos perigosos. 7:16
- Acesso desigual preocupaNa avaliação do apresentador, empresas que não participaram do Project Glasswing podem ficar vulneráveis antes de receber apoio para corrigir falhas. 9:19
🧠 lições aprendidas
- Guardrails não são garantia absolutaMecanismos de segurança podem reduzir riscos, mas não provam que o modelo seja seguro em todos os casos. 7:16
- Defesa precisa acompanhar a capacidade ofensivaEncontrar e corrigir vulnerabilidades antes que sejam exploradas é um benefício importante, mas depende de proteger também organizações fora dos programas iniciais. 8:48
🏁 conclusão/próximos passos
- Acompanhar os efeitos do lançamentoO apresentador propõe observar na prática se as proteções funcionam e se o acesso ao Fable 5 traz riscos para usuários e infraestrutura. 10:51
- Debater a confiança nos mecanismosO vídeo termina perguntando se o público confia nos guardrails e no fallback do modelo. 10:51
Transcript excerpt
0:00 Break news, rapaziada. Anthropic acabou de soltar pro público aquele modelo, o Claude Mythos, aquele que encontrou várias vulnerabilidades em questões de minutos, cara. [ __ ] em sistema operacional, em navegador, que provavelmente você tá usando nesse exato momento. Mesma classe, mesmo cérebro, só que segundo eles com uma coleira. Cara, eu preciso explicar para você porque essa coleira pode não segurar esta fera. Mas antes de continuar, cara, eu sou o Devin do canal Mando Devin. Esse aqui é o canal mais chorume de tecnologia, cara. é o canal mais impacial, porque aqui não tem papo de vendedor de curso e vendedor de mentoria, cara. Então se inscreve no
0:31 canal, deixa o like, ativa a notificação para não perder nenhum vídeo e vota na gente também no IBET, cara. Estamos concorrendo aqui um grande prêmio, então linkzinho tá na descrição, é só um clique, você vai ajudar a gente para caramba. Sem muita enrolação, cara, eu vou dar um pequeno contexto que vai levar apenas 60 segundos para você poder entender o que tá acontecendo. Cara, em março e abril, a Anthropic, ela confirmou que tinha um modelo chamado Claude Mythos. Eles mesmos, caras descreveram como o mais poderoso modelo que já construímos, cara. Pô, foi um baita assalto acima do que o Opus
🔒 The full, searchable transcript is available with Pro.
Related summaries
o golpe do $4.200
Um YouTuber fez o que a OpenAI não fez.
O Método Fábio Akita para programar com IA
The Evil Aliance pela fome (feat Akita, Montano)
Essentials: How Emotions & Social Factors Impact Learning | Dr. Mary Helen Immordino-Yang
