국가 차원에서 AI를 목적에 맞게 API, SLM, 거대 AI 등으로 분산 사용하자는 의견에 대해, 거대모델 구축이라는 목표 하나에 집중해야 한다는 입장이 있다. 크게는 이 입장에 동의한다.
단기 전략으로도 분산 사용은 부적절하다
한 발 더 나아가, 목적별 분산 사용 전략은 1-2년 사이 당장 적용하기 위한 단기 전략으로도 적절하지 않다고 본다. 특히 공무원 사회를 위한 계획이라면 말이다.
토큰 비용 걱정은 불필요하다. 지금도 싸고 앞으로 더 싸질 것이라는 점을 차치하더라도, 공무원들이 AI를 많이 써서 문제가 될 확률이 높을까, 아니면 좀 써달라고 아무리 애원해도 안 쓸 확률이 높을까. 효율을 높일 유인이 적은 공무원 조직에서 AI를 쓰도록 행동을 바꾸기란 대단히 어렵다.
용도별 구분이라는 함정
일부 열심히 쓰려는 공무원이 접근 권한을 신청하면, "이건 API로 충분합니다", "SLM으로도 가능하니 안 됩니다"라는 사유로 반려된다. 정작 쓸만한 SLM이 존재하는지는 아무도 신경 쓰지 않는다. AI를 써본 적도 없는 윗분들 선에서.
세부 지침을 세우면 자율성을 침해할 우려가 있고, 상위 수준의 기준만 세우면 현장에서 제각기 분류 기준이 난무한다. 대부분은 '그냥 안 쓰고 말지'라는 결론에 이를 것이다.
SLM은 더더욱 시기상조다
특정 작업에 적절한 SLM이 무엇인지 판단하는 것은 AI와 도메인 모두에 엄청난 전문성을 요한다. 사용해보니 결과가 좋지 않을 때, 모델 성능 문제인지 내 실력 문제인지 이 모델이 적합하지 않은 것인지 판단하기가 정말 어렵다. 전문가들조차 실제 업무에 SLM을 활용하는 경우는 소수다.
최악의 결말은 공무에 맞는 SLM을 개발해야 한다는 의견이 나오고, 몇 달만 지나도 아무도 안 쓸 SLM 지원사업이 생기고, 성과라고 보도되는 것이다.
일단 거대모델 개발에 집중하고, 쓰면 안 되는 분야만 확실하게 제외하는 포지티브 방식의 가이드라인 하에 많이 써보도록 해야 한다. 그것이 먼저다.
