해부 · EXHIBIT 17AI 역할
읽기 1분 · 선택하면 저자의 판단이 공개됩니다
docent 데모는 긴 문서에 대해 질문을 받는다. AI가 매끄럽게 다 답해주는 게 친절해 보인다 — 하지만 문서에 없는 내용을 그럴듯하게 지어내면 그건 환각이고, 이 사이트가 비판해 온 바로 그것이다. '항상 답을 주는' 챗봇으로 만들 것인가, 아니면 '근거가 있을 때만, 없으면 없다고' 답하게 할 것인가.
어느 쪽이든 고르면 저자의 결정과 근거가 열립니다 ·
챗봇에게 '쇼케이스 보여줘'라고 하면 실험만 나오고 해부가 빠졌다. system prompt에 '해부도 함께 보여줘'라고 더 세게 쓸 수 있다 — 하지만 그건 여전히 모델의 선의에 기대는 확률적 방법이라, 또 빠질 수 있다. 프롬프트를 강화할 것인가, 아니면 함수가 해부를 반드시 반환하게 코드로 보장할 것인가.
판단해 보기 →전시 19 · AI 역할사이트 챗봇이 해부 글의 본문(rationale)까지 읽어주면 더 '친절'해 보인다. 하지만 그러면 챗봇이 원문을 대체하고, 방문자는 글을 직접 읽지 않게 된다. 챗봇을 '다 답해주는 비서'로 만들 것인가, 아니면 '이런 글이 있다'고 안내만 하는 도슨트로 둘 것인가.
판단해 보기 →