1. RAG는 왜 거짓말을 하는가김대현, AUSG 9기 / 메가존소프트1.1 RAG는 왜 거짓말을 하는가?LLM이란 결국 확률을 바탕으로 Vocab에서 답변을 Auto Regression을 하는 것. 따라서 Hallucination 문제가 따라 붙을 수 밖에 없음이를 막기 위하여 Wiki를 제작해주기 위한 RAG가 등장하였으나, 완벽하게 문제를 해결하지 않음.RAG의 3가지 실패 유형Ignoring (무시): LLM 검색 실패Fabricating (날조): HallucinationMisattuibusion (오인용): 출처 연결 실패 혹은 값 변형 1.2 RAG의 거짓말을 잡는 3가지 방법연사자가 경험적으로 사용하고 있는 3Stage Harness 구조 1.2.1 RAGAS4개 지표를 가지고 평가합니다...

Harness Engineering브레인크루 / 테디노트 이경록1. Prompt Engineering2022~2023년에는 좋은 결과를 얻기 위해 사용자가 직접 좋은 프롬프트를 작성해야 했다.따라서 사용자는 다음과 같은 작업을 반복했다.프롬프트를 정교하게 작성잘 만든 프롬프트를 별도로 저장필요할 때 복사해서 사용모델의 응답이 좋지 않으면 프롬프트를 수정2. Context Engineering사용자가 모든 정보를 직접 프롬프트에 넣는 대신 시스템이 중간에서 필요한 맥락을 보완한다.RAGMemoryTool Calling외부 지식LangGraph 등의 워크플로우하지만 컨텍스트 엔지니어링이 잘 구축되어 있어도 몇 가지 문제가 남는다. 2.1 컨텍스트 엔지니어링의 한계시스템이 정적이다시스템 프롬프트, 검색 인덱스..

서론: 신경망의 암흑기를 뚫고 현대 AI의 기틀을 세운 선구자현대 인공지능(AI)의 역사는 얀 르쿤(Yann LeCun)이라는 인물의 이름을 빼놓고는 서술이 불가능하다. 그는 인공지능 연구가 막다른 길에 다다랐다고 여겨지던 'AI 겨울'의 한복판에서도 신경망(Neural Networks)이라는 아이디어를 포기하지 않았던 소수의 연구자 중 한 명이었으며, 오늘날 우리가 일상적으로 사용하는 이미지 인식, 자율 주행, 자연어 처리 기술의 핵심인 합성곱 신경망(CNN)의 창시자이기도 하다. 르쿤의 여정은 단순히 기술적인 성취에 그치지 않는다. 그는 기술의 공개와 공유를 강조하는 '오픈 소스' 철학의 강력한 옹호자이며, 최근에는 거대 언어 모델(LLM)의 한계를 지적하며 '세계 모델(World Models)'이라..

안드레 카파시(Andrej Karpathy)는 현대 인공지능(AI) 분야에서 학문적 깊이와 산업적 실행력, 그리고 교육적 헌신을 모두 갖춘 드문 인물로 평가받는다. 1986년 10월 23일, 당시 체코슬로바키아의 브라티슬라바에서 태어난 그는 냉전의 종식과 함께 기술적 격동기를 거치며 성장했다. 15세의 나이에 가족과 함께 캐나다 토론토로 이주한 배경은 그가 북미의 선진 기술 생태계에 편입되는 결정적인 계기가 되었다. 그의 학문적 여정은 토론토 대학교에서 컴퓨터 과학과 물리학을 복수 전공하며 시작되었으며, 이곳에서 현대 딥러닝의 대부라 불리는 제프리 힌튼(Geoffrey Hinton)의 지도를 받으며 인공 신경망의 잠재력에 눈을 뜨게 되었다. 이후 브리티시 컬럼비아 대학교(UBC)에서 미키엘 반 데 판네(..

2026년 4월 말, 무신사 성수에서 '애플 디벨로퍼 아카데미 로드쇼 인 성수'가 열려 참석을 해보았습니다. 애플 디벨로퍼 아카데미에서는 아카데미 수강생을 서로 러너(Learner)라고 부릅니다. 저는 일일 러너가 되어서 Challenge Based Learning를 짧게 체험해보는 시간을 가졌습니다. 애플 디벨로퍼 아카데미 소개애플 디벨로퍼 아카데미는 전 세계 19개국에서 운영되는 교육 프로그램으로, '세상을 바꿀 수 있는 질문을 던지는 디렉터'를 키우는 것을 목표로 하고 있습니다. 한국에서는 포항공과대학(Postech)과 함께 포항에서 9개월 동안의 일정을 소화합니다. 국내 상주 멘토 16분 외에도 전 세계 애플 본사의 디자인/테크 에반젤리스트들과의 세션을 제공합니다. 교육 철학모든 러너는 애플이 설..

인공지능 에이전트 패러다임의 전환과 하네스 엔지니어링의 태동인공지능 기술의 발전 궤적은 단순한 텍스트 생성을 넘어 시스템과 상호작용하며 복잡한 과업을 완수하는 '자율형 에이전트(Autonomous Agent)'의 시대로 급격히 진입하고 있다. 초기 거대언어모델(LLM)이 인간의 질문에 답하는 보조적인 수단에 머물렀다면, 현재의 에이전트는 코드베이스를 수정하고, 인프라를 배포하며, 독자적인 의사결정 루프를 수행하는 주체로 진화했다. 이러한 전환 과정에서 엔지니어링 커뮤니티가 직면한 가장 근본적인 과제는 모델의 지능 그 자체가 아니라, 그 지능을 어떻게 통제하고 예측 가능한 결과물로 연결하느냐는 것이다. 이 지점에서 등장한 새로운 규범이 바로 '하네스 엔지니어링(Harness Engineering)'이다.하..

서론: 픽셀의 종말과 의도 중심 설계의 부상2026년 현재, 디지털 제품 설계 분야는 지난 수십 년간 이어져 온 '픽셀 완결성'의 시대에서 '의도(Intent)'와 '감각(Vibe)'이 중심이 되는 새로운 패러다임으로의 전이를 완료했다. 과거 디자이너의 주된 업무가 피그마(Figma)나 스케치(Sketch)와 같은 도구에서 정교한 벡터 파일을 제작하고 이를 개발자에게 전달(Handoff)하는 것이었다면, 이제는 자연어를 통해 제품의 '분위기'를 설정하고 AI 에이전트를 통해 실시간으로 작동하는 코드를 도출하는 '바이브 디자인(Vibe Design)'이 산업 표준으로 자리 잡았다. 이러한 변화는 단순히 도구의 진화에 그치지 않고, 기획, 디자인, 개발로 이어지는 전통적인 선형적 워크플로우를 해체하며 '실행..

2026년 3월 31일, 인공지능 업계는 엔트로픽(Anthropic)의 주력 제품인 '클로드 코드(Claude Code)'의 소스코드가 npm 패키징 오류로 인해 공개되는 전례 없는 사태를 맞이하였다. 버전 2.1.88 업데이트 과정에서 내부 디버깅용으로 의도된 59.8MB 규모의 JavaScript 소스 맵(.map) 파일이 실수로 포함되면서, 약 512,000라인의 TypeScript 소스코드와 1,900여 개의 내부 파일이 고스란히 노출된 것이다. 이번 유출은 단순한 데이터 노출을 넘어, 그동안 베일에 싸여 있던 현대적인 '에이전트 하네스(Agentic Harness)'—즉, 거대언어모델(LLM)이 현실 세계의 도구, 파일 시스템, 터미널 환경과 상호작용하도록 만드는 소프트웨어 레이어—의 상세한 설..

1. 서론: 이론적 잠재력에서 실증적 데이터로의 전환지금까지 AI가 노동 시장에 미칠 영향을 분석하는 머신러닝 기반 연구들은 주로 '직무(Job)'를 '태스크(Task)'의 집합으로 분해하고, 각 태스크에 대한 AI의 성능을 예측하는 방식에 의존해 왔다. 그러나 앤트로픽의 최신 보고서는 여기서 한 단계 더 나아가, 실제 사용자들의 사용 패턴인 Anthropic Economic Index를 활용하여 데이터 마이닝 관점에서의 새로운 지표를 제시한다. 이는 AI의 영향력을 단순히 모델의 성능($Performance$)이 아닌, 실제 환경에서의 적응($Real-world Adaptation$)이라는 필터를 통해 정제했다는 점에서 큰 의미를 갖는다.2. 방법론적 고찰: 피처 엔지니어링으로서의 '관찰된 노출'앤트로..

인공지능 시대의 민군 관계와 기술 주권의 재정의2026년 초, 미국 국방부(Department of Defense, 이하 DoD)와 프런티어 인공지능(AI) 개발사인 Anthropic 사이에서 발생한 전례 없는 갈등은 현대 기술 거버넌스의 가장 민감한 지점을 드러냈습니다. 이는 단순한 계약 분쟁의 차원을 넘어, AI라는 이중 용도(Dual-use) 기술이 국가 안보의 핵심 역량으로 자리 잡는 과정에서 발생하는 기업의 윤리적 자율성과 국가의 주권적 통제권 사이의 근본적인 대립을 상징합니다. Anthropic은 설립 초기부터 인류에게 유익하고 안전한 AI를 목표로 하는 공익 기업(Public Benefit Corporation)으로서 '헌법적 AI(Constitutional AI)'라는 독자적인 훈련 프레임..