IT로그

DEPO 어려운 샘플을 미리 감지하면 RL이 빨라질까 GRPO 학습에서 롤아웃이 가장 비싼데, 정작 업데이트에 쓸 “학습 신호”가 없는 샘플이 많으면 돈과 시간이 그대로 증발합니다. DEPO는 이를 롤아웃 …

지저분한 데이터도 프리트레이닝에 쓰는 법(토큰화 관점) 노이즈 많은 실제 코퍼스를 “정제해서 버리는 문제”로만 보면, 남는 건 비용과 데이터 손실입니다. QA-Token은 문제를 아예 토크나이저 설계로 끌어올려, …

AgentCPM-Explore 엣지에서 딥탐색을 진짜로 해보면 4B급 엣지 모델이 에이전트 과제에서 약한 이유를 “능력 부족”으로만 보면 해법이 커집니다. AgentCPM-Explore는 병목을 안정성·신호품질 문…

JADE 에이전트 평가를 클레임 단위로 깔끔하게 오픈엔디드 전문 보고서 평가는 늘 딜레마가 있습니다. 정적 루브릭은 재현성은 높지만 다양한 정답 전략을 놓치기 쉽고, LLM-as-judge는 적응적이지만 흔들리고 …

행동트리+RL, ‘진행 제약’ 걸면 학습이 더 안정될까 행동트리(BT)에 RL 컨트롤러를 붙이면 “학습은 되는데 전체 임무가 망가지는” 순간이 자주 옵니다. 이 글은 왜 그런 루프가 생기는지, 패널티 대신 제약으로…

HyPER 가설을 키웠다 줄였다 하면서 추론하는 방법   테스트타임 스케일링은 “경로를 많이 뽑기”만으로는 한계가 있습니다. HyPER는 탐색–활용을 동적으로 제어해 같은 예산에서 정확도를 올리고 토큰을 줄이려 합…

LogicSkills ‘논리 잘함’을 스킬 단위로 쪼개서 보자 LLM의 “논리추론 능력”은 한 덩어리로 측정하면 착시가 생기기 쉽습니다. LOGICSKILLS는 논리 과제를 하위기술로 분해하고 Z3로 자동검증해, …