해부 · EXHIBIT 16AI 역할
읽기 1분 · 선택하면 저자의 판단이 공개됩니다
relay 데모는 자연어 목표('노트북 담고 쿠폰 적용해서 결제 직전까지')를 받아 여러 단계를 스스로 실행하는 에이전트다. AI가 알아서 끝까지 처리하게 두는 게 '똑똑해' 보인다. 하지만 그게 옳은가 — AI가 사람 대신 결정을 내리며 자동으로 흘러가는 것이. 매끄러움을 위해 자율에 맡길 것인가, 아니면 각 단계를 사람이 승인하게 할 것인가.
어느 쪽이든 고르면 저자의 결정과 근거가 열립니다 ·
docent 데모는 긴 문서에 대해 질문을 받는다. AI가 매끄럽게 다 답해주는 게 친절해 보인다 — 하지만 문서에 없는 내용을 그럴듯하게 지어내면 그건 환각이고, 이 사이트가 비판해 온 바로 그것이다. '항상 답을 주는' 챗봇으로 만들 것인가, 아니면 '근거가 있을 때만, 없으면 없다고' 답하게 할 것인가.
판단해 보기 →전시 18 · AI 역할챗봇에게 '쇼케이스 보여줘'라고 하면 실험만 나오고 해부가 빠졌다. system prompt에 '해부도 함께 보여줘'라고 더 세게 쓸 수 있다 — 하지만 그건 여전히 모델의 선의에 기대는 확률적 방법이라, 또 빠질 수 있다. 프롬프트를 강화할 것인가, 아니면 함수가 해부를 반드시 반환하게 코드로 보장할 것인가.
판단해 보기 →