'rag기술' 태그의 글 목록

신뢰가 생명인 법조계에서도 AI가 만든 가짜 판례가 실제 재판에 인용되면서 법정이 술렁이고 있다고 합니다.챗GPT와 같은 생성형AI를 활용하시면서 AI가 틀린 정보를 줄 때도 있다는 건 다들 아시겠지만, 이번 시간에는 이 Hallucination(할루시네이션, 환각) 현상이 왜 반복되며, 어떻게 대응해야 하는지 정리해 보도록 하겠습니다.해외 법정 뒤흔든 'AI 가짜 판례' 사건영국 일간지 에 따르면, 영국 변호사 초드허리 라흐만이 생성형 AI를 활용해 존재하지 않는 12개 판례를 항소 이유서에 인용한 사건이 있었습니다.호주에서도 비슷한 사례가 이어졌고, 변호사들이 챗GPT·클로드·코파일럿 등 여러 AI를 교차 검증했음에도 모두 허위 판례로 드러났다고 하는데요, 판사들은 이를 "AI 기술 과신과 전문가 ..