전체 글35 AI 윤리원칙 (개인정보, 프라이버시, AI 행위자) 어느 날 갑자기 중국어로 욕을 퍼붓는 전화를 받은 적이 있습니다. 저는 중국어를 한 마디도 못 하지만, 상대가 화가 났다는 건 목소리 톤만으로도 충분히 알 수 있었습니다. 알고 보니 제 개인정보가 어딘가에서 새어 나가 중국 구인 사이트에 올라가 있었던 겁니다. 이 경험이 있고 나서, 저는 AI에 아무 생각 없이 정보를 입력하는 제 습관부터 돌아보게 됐습니다. 정부가 새로 확정한 대한민국 인공지능 윤리원칙은 바로 그 지점을 건드립니다.개인정보 유출, 남의 일이 아니었습니다쿠팡 고객정보 유출 사태가 터졌을 때 많은 분들이 분노했습니다. 카드사, 언론사, 유튜브 관련 서비스까지 줄줄이 터지면서 "도대체 내 정보가 어디까지 퍼진 건가" 싶은 느낌이 들었던 시기이기도 합니다. 저도 그때 꽤 예민하게 반응했던 기억.. 2026. 8. 25. LLM 환각 측정 (분류체계, 정량지표, 평가파이프라인, 모니터링) 프롬프트를 잘 다듬으면 LLM 환각이 줄어든다고 생각하시는 분들 많으시죠? 저도 처음엔 그렇게 믿었습니다. 그런데 실제로 금융 도메인 RAG 시스템을 운영해보니, 프롬프트 수정은 그냥 증상 완화에 불과했습니다. 환각(Hallucination)이 언제, 얼마나, 왜 발생하는지를 숫자로 파악하지 못하면 결국 같은 실수가 반복됩니다. 이 글은 환각을 측정 가능한 엔지니어링 문제로 바꾸는 방법을 다룹니다.환각 분류체계 — 유형을 모르면 측정도 못 합니다일반적으로 LLM 환각을 그냥 "틀린 답변"으로 뭉뚱그려 보는 시각도 있는데, 실제로 써보니 오류의 성격이 완전히 달라서 같은 잣대로 재면 곤란합니다. 유형을 구분해야 비로소 어떤 지표를 적용할지 결정할 수 있습니다.크게 두 갈래로 나뉩니다. 첫 번째는 사실적 환.. 2026. 8. 19. 임베딩 모델 비교 (MTEB 벤치마크, 모델 선택, 하이브리드 검색) MTEB 리더보드 1위 모델을 골랐는데도 실제 검색 품질이 기대에 한참 못 미친 경험, 혹시 있으신가요? 저도 처음 RAG 파이프라인을 구축할 때 같은 실수를 했습니다. 임베딩 모델은 벤치마크 순위가 전부가 아니라 서비스 데이터와 검색 패턴에 맞는 선택이 훨씬 중요합니다. 이 글에서는 MTEB 벤치마크를 어떻게 읽어야 하는지, 그리고 실제 모델들 사이에서 어떤 기준으로 골라야 하는지를 경험을 섞어 풀어드립니다. MTEB 벤치마크, 평균 점수만 보면 반드시 실패합니다임베딩 모델의 성능을 비교할 때 업계 표준으로 쓰이는 도구는 MTEB(Massive Text Embedding Benchmark)입니다. 여기서 MTEB란 분류, 군집화, 검색, 재순위화 등 56개 이상의 NLP 태스크를 한꺼번에 돌려서 모델의.. 2026. 8. 18. RAG 청킹 전략 (청크 크기, 검색 정확도, Parent-Child) RAG 시스템을 구축하고 나서 "왜 이렇게 엉뚱한 답이 나오지?" 싶었던 적 있으신가요. 저도 처음에는 모델 탓을 했습니다. 더 비싼 LLM으로 바꾸면 나아지겠거니 했는데, 실제로 성능을 결정하는 건 모델이 아니라 문서를 얼마나 잘게, 얼마나 똑똑하게 자르느냐였습니다. 청크 분할(Chunking) 하나가 검색 정확도를 완전히 뒤흔든다는 걸, 직접 손으로 수십 번 실험하고 나서야 체감했습니다. 청크 크기가 검색 정확도를 결정하는 이유RAG 파이프라인의 흐름은 크게 '문서 수집 → 청킹 → 임베딩 → 벡터 검색 → 답변 생성' 다섯 단계로 나뉩니다. 이 중에서 가장 먼저, 그리고 가장 많이 망가지는 지점이 바로 청킹 단계입니다. 저도 초기에는 "어차피 자동으로 나눠주는 거 아닌가" 싶어서 기본값 그대로 쓰다.. 2026. 8. 17. AI 질병 진단 (의료 데이터, 진단 정확도, 의사 대체) 솔직히 저는 "AI가 의사를 대체할 것"이라는 말을 처음 들었을 때 그냥 과장된 미래 이야기로 흘려들었습니다. 그런데 실제로 관련 연구들을 찾아보고 나서 생각이 완전히 바뀌었습니다. 특정 영상 판독 분야에서는 AI의 진단 정확도가 이미 전문의를 넘어선 임상 결과가 나오고 있고, 이 속도라면 의료 현장의 풍경이 생각보다 훨씬 빨리 달라질 수 있겠다는 걸 실감했습니다.목차AI는 어떻게 의료 데이터를 읽어내는가진단 정확도, 실제로 의사를 넘어섰는가그래서 의사라는 직업, 어떻게 될 것인가자주하는 질문결론AI는 어떻게 의료 데이터를 읽어내는가제가 처음에 가장 궁금했던 건 "AI가 도대체 뭘 보고 진단을 내리는가"였습니다. 인간 의사가 청진기를 귀에 꽂고 환자의 눈을 보며 판단하는 것과 달리, AI는 디지털화된 데.. 2026. 8. 6. 퍼셉트론 완전 정복 (인공 뉴런, 가중치, 다층 퍼셉트론) 1958년, 프랑크 로젠블랫(Frank Rosenblatt)이 단 하나의 인공 뉴런 모델을 발표했을 때 아무도 이게 오늘날 GPT와 자율주행의 씨앗이 될 거라 몰랐습니다. 저도 처음 인공지능을 공부하면서 '퍼셉트론'이라는 단어를 마주쳤을 때 솔직히 그냥 옛날 이론 아닌가 싶었는데, 파고들수록 이게 딥러닝 전체를 관통하는 핵심 구조라는 걸 알게 됐습니다. 목차인공지능은 어떻게 세상을 감지하는가 — 환경 인식과 인공 뉴런단층의 한계와 다층 퍼셉트론으로의 진화 — 딥러닝의 탄생단층 vs 다층 — 무엇이 달라지는가자주 하는 질문 (FAQ)결론인공지능은 어떻게 세상을 감지하는가 — 환경 인식과 인공 뉴런인공지능이 주변을 '본다'는 게 어떤 의미인지 생각해보신 적 있으신가요? 사람은 눈으로 빛을 받아들이고 뇌가 해.. 2026. 8. 5. 이전 1 2 3 4 ··· 6 다음
