agent

[초안] LLM Tool Calling과 Agent Workflow 설계 — 케어챗 백엔드 관점

LLM은 그 자체로는 "텍스트를 잘 만들어내는 함수"에 가깝다. 의료/헬스케어 도메인의 AI Agent — 케어챗처럼 사용자의 증상 문의, 복약 안내, 예약 변경, 의료진 라우팅 같은 실제 업무를 처리해야 하는 시스템 — 에서는 모델이 "그럴듯한 답"을 생성하는 것만으로는 충분하지 않다. 진짜 가치는 모델이 외부 시스템을 안전하게 호출하고, 그 결과를 바탕...

[초안] 헬스케어 AI Agent의 멀티턴 메모리 설계 — 시니어 백엔드 관점

헬스케어 도메인의 AI Agent는 일반적인 챗봇과 결정적으로 다르다. 사용자가 "어제 말한 그 약 때문에 속이 쓰려요"라고 하면, agent는 어제의 대화를 떠올려야 하고, 그 사용자의 복용 이력을 알아야 하며, 동시에 그 정보를 영구히 들고 있으면 안 된다. 의료 정보는 민감 정보이고, 잘못된 발화가 환자의 행동을 바꿀 수 있고, 데이터 유출의 임팩트가...