LLM에게 자아를 부여하지 마라
LLM을 자아를 가진 존재처럼 대하지 말고, 다양한 관점과 상황을 시뮬레이션할 수 있는 기계로 취급하라는 안드레이 카파시의 조언.
"xyz에 대해 어떻게 생각하세요?"가 아니라 "xyz를 탐구하기에 적합한 사람들은 누구일까요? 그들은 무엇을 말할까요?"라고 물어보자는 것이다.
카파시의 본문과 댓글을 해석해보면, LLM의 자아라는 것은 추가 학습 과정에서 의도적으로 덧씌워지고 만들어진 층위다. 우리가 쓰는 '당신'이라는 표현은 이 과정에서 만들어진 성격 임베딩 벡터를 기반으로 시뮬레이션하도록 제한시키는 것이기에, 다양한 입장을 탐색할 때 오히려 방해가 될 수 있다.
이를 생각하다 보니, 이러한 이해가 AI를 잘 쓰기 위한 방법론적 측면도 있지만, AI를 또 다른 존재로 인지해서 발생하는 다양한 문제들을 해결할 수 있는 시작점이 될 수도 있겠다는 생각이 들었다. 아이들에게 가르쳐줘야 할 지식이자 관점이다.
Related
멈추고 생각하는 시간의 가치
AI 시대에 멈추고 생각하는 시간이 가장 귀중해진다. 책읽기, 글쓰기, 대화를 통한 능동적 사고는 의도적으로 디자인된 환경에서만 가능해지고 있다.
똑똑한 모델이 결국 더 싸다
Opus 4.5는 토큰당 가격이 비싸지만 효율성 덕에 총비용은 더 저렴할 수 있다. 지능이 충분히 높아지면 모델 구분 자체가 사라질 것이다.
AI 교육 정책에 철학이 없다
교육부의 AI 인재양성 방안에는 정책만 있고 철학이 없다. AI 시대 인재가 무엇인지에 대한 근본적 질문 없이 기존 정책에 AI를 껴얹는 것으로는 현장의 혼란을 해결할 수 없다.
