생성형AI5 AI 윤리원칙 (개인정보, 프라이버시, AI 행위자) 어느 날 갑자기 중국어로 욕을 퍼붓는 전화를 받은 적이 있습니다. 저는 중국어를 한 마디도 못 하지만, 상대가 화가 났다는 건 목소리 톤만으로도 충분히 알 수 있었습니다. 알고 보니 제 개인정보가 어딘가에서 새어 나가 중국 구인 사이트에 올라가 있었던 겁니다. 이 경험이 있고 나서, 저는 AI에 아무 생각 없이 정보를 입력하는 제 습관부터 돌아보게 됐습니다. 정부가 새로 확정한 대한민국 인공지능 윤리원칙은 바로 그 지점을 건드립니다.개인정보 유출, 남의 일이 아니었습니다쿠팡 고객정보 유출 사태가 터졌을 때 많은 분들이 분노했습니다. 카드사, 언론사, 유튜브 관련 서비스까지 줄줄이 터지면서 "도대체 내 정보가 어디까지 퍼진 건가" 싶은 느낌이 들었던 시기이기도 합니다. 저도 그때 꽤 예민하게 반응했던 기억.. 2026. 8. 25. LLM 환각 측정 (분류체계, 정량지표, 평가파이프라인, 모니터링) 프롬프트를 잘 다듬으면 LLM 환각이 줄어든다고 생각하시는 분들 많으시죠? 저도 처음엔 그렇게 믿었습니다. 그런데 실제로 금융 도메인 RAG 시스템을 운영해보니, 프롬프트 수정은 그냥 증상 완화에 불과했습니다. 환각(Hallucination)이 언제, 얼마나, 왜 발생하는지를 숫자로 파악하지 못하면 결국 같은 실수가 반복됩니다. 이 글은 환각을 측정 가능한 엔지니어링 문제로 바꾸는 방법을 다룹니다.환각 분류체계 — 유형을 모르면 측정도 못 합니다일반적으로 LLM 환각을 그냥 "틀린 답변"으로 뭉뚱그려 보는 시각도 있는데, 실제로 써보니 오류의 성격이 완전히 달라서 같은 잣대로 재면 곤란합니다. 유형을 구분해야 비로소 어떤 지표를 적용할지 결정할 수 있습니다.크게 두 갈래로 나뉩니다. 첫 번째는 사실적 환.. 2026. 8. 19. AI 윤리 이슈 (알고리즘 편향, 프라이버시, 저작권) 요즘 AI 도구를 쓰다 보면 문득 불편한 질문이 머릿속에 떠오를 때가 있습니다. '이 모델은 내 데이터를 어디까지 쓰는 걸까?' 저도 생성형 AI로 이미지를 만들다가 특정 작가의 화풍이 그대로 나오는 걸 보고 멈칫했던 적이 있습니다. 알고리즘 편향, 프라이버시 침해, 저작권 분쟁 — 이 세 가지는 AI 기술이 편리해질수록 더 선명하게 드러나는 문제입니다. 각각 어떤 상황에서 벌어지는지, 실제 사례와 함께 정리했습니다. 목차AI가 차별을 '학습'한다는 게 무슨 뜻일까 — 알고리즘 편향내 얼굴이 데이터가 되는 순간 — 프라이버시 침해AI가 작가의 화풍을 '공짜로' 쓴다면 — 저작권 분쟁인공지능 인식 기술과 윤리에 대해 자주 하는 질문 (FAQ)결론: 인간과 기술이 공존하는 안전한 미래를 위하여AI가 차별을 .. 2026. 8. 1. 영화·게임 속 AI vs 현실 (강인공지능, 규칙기반, 딥러닝) 솔직히 저는 터미네이터를 처음 봤을 때, 저게 곧 현실이 되는 줄 알았습니다. 스카이넷이 인류를 상대로 전쟁을 선포하는 장면이 꽤 설득력 있게 느껴졌거든요. 그런데 막상 AI를 공부하고 직접 써보기 시작하면서 생각이 완전히 바뀌었습니다. 영화·게임 속 AI와 현실의 AI는 이름만 같을 뿐, 작동 원리부터 목적까지 전혀 다른 기술입니다. 이 글에서는 그 차이를 제가 이해한 방식으로 풀어보겠습니다.목차영화 속 강인공지능, 우리가 착각하는 이유게임 AI가 똑똑해 보이는 진짜 이유 — 규칙기반 시스템의 정체딥러닝이 실제로 세상을 읽는 방식 — 센싱부터 행동까지인공지능 기술에 대해 자주 하는 질문 (FAQ)결론: 인간을 돕는 도구로서의 인공지능과 미래의 방향성영화 속 강인공지능, 우리가 착각하는 이유제가 처음 C.. 2026. 7. 28. 인공지능 (역사와 기원, 딥러닝, 생성형 AI) 1956년 미국 다트머스 대학교에서 '인공지능'이라는 단어가 처음 세상에 등장했습니다. 저는 학교에서 학생들에게 인공지능을 가르치는 강사입니다. 처음 초·중·고 수업에서 아직 완성도가 낮은 AI 결과물을 보여줬을 때 학생들의 눈이 동그래지던 그 순간이 아직도 생생한데, 불과 몇 년 만에 휴대폰으로 매일 쓰는 기술이 됐습니다. 두려움보다는 제대로 아는 것이 먼저라고 생각해 이 글을 씁니다.인공지능의 역사와 기원 — 부흥과 좌절을 반복한 70년인공지능이 처음 학문으로 인정받은 건 1956년, 존 매카시 교수가 다트머스 세미나에서 'Artificial Intelligence'라는 용어를 제안하면서입니다. 당시 앨런 튜링, 마빈 민스키 같은 개척자들은 "컴퓨터가 인간처럼 생각할 수 있다"는 거대한 확신을 품고 .. 2026. 7. 18. 이전 1 다음
