Categoria

IA, Machine Learning e LLMs

Como implementar guardrails em aplicações com LLMs

Guardrails são mecanismos de segurança e controle implementados em torno de modelos de linguagem de grande escala (LLMs) para garantir que suas saídas sejam seguras, precisas e alinhadas com os objetivos da aplicação. Sem essas barreiras, sistemas baseados em LLMs estão expostos a riscos significativos: alucinações (informações falsas apresentadas como fatos), geração de conteúdo tóxico, vazamento de dados sensíveis e vulnerabilidade a ataques de jailbreak (tentativas de burlar restrições do mod

05/07/2023

IA, Machine Learning e LLMs 26/06/2023

LangGraph: construindo agentes com fluxo de estado e loops controlados

LangGraph é uma biblioteca desenvolvida pela LangChain que introduz um paradigma inovador para construção de agentes de IA: o uso de grafos de estado cíclicos. Diferente dos pipelines lineares tradicionais (DAGs), onde o fluxo de dados segue um caminho único e previsível, LangGraph permite que os agentes tomem decisões, executem ações e retornem a estados anteriores de forma controlada.

IA, Machine Learning e LLMs 10/05/2023

Construindo um agente de código com LangChain e ferramentas customizadas

O LangChain é um framework que facilita a construção de aplicações baseadas em LLMs (Large Language Models). Para agentes de código, sua arquitetura se baseia em quatro componentes principais: chain (cadeia de chamadas), tool (ferramenta que o agente pode usar), memory (memória de conversa) e executor (orquestrador que decide qual ação tomar).

IA, Machine Learning e LLMs 24/04/2023

Monitoramento de drift em modelos de ML em produção

Modelos de machine learning implantados em produção enfrentam um desafio fundamental: o mundo real muda constantemente. O drift refere-se à degradação silenciosa do desempenho de um modelo causada por mudanças na distribuição dos dados ou na relação entre as variáveis preditoras e a variável alvo ao longo do tempo.

IA, Machine Learning e LLMs 13/04/2023

RAG (Retrieval-Augmented Generation): conectando IA aos seus dados

Modelos de linguagem de grande escala (LLMs) possuem um conhecimento limitado ao seu corte temporal de treinamento. Se um LLM foi treinado até 2023, ele não saberá de eventos de 2024. Além disso, LLMs não têm acesso a documentos internos de uma empresa, como manuais técnicos, políticas de RH ou bases de conhecimento proprietárias. O RAG (Retrieval-Augmented Generation) surge como solução: um sistema que primeiro recupera informações relevantes de uma base de dados externa e depois gera uma respo