대기업에서 전 직원의 AI 도입을 책임지는 분과 커피 한 잔을 마셨습니다. 20분짜리 대화였는데, 혼자 AI를 쓰는 사람에게도 그대로 적용되는 이야기가 가득했어요.
행사가 끝나고, 대기업에서 AI 도입을 총괄하는 H님과 카페에 마주 앉았습니다. 클라우드에 AI 모델을 직접 배포해서 전 직원이 쓰게 만들고, 그 운영을 책임지는 분이에요. "회사는 어떻게 쓰나"가 궁금해서 시작한 대화였는데, 끝나고 보니 혼자 일하는 사람에게 더 와닿는 이야기들이 남았습니다.
가장 먼저 의외였던 것. 전 직원에게 AI를 무제한으로 풀어준 회사조차 이렇답니다.
회사도 이제 막 도입하는 거라… 다들 하긴 하는데, 다들 모르는 상황이죠. 저도 하면서 알아가요.
— H님, 기업 AI 총괄"나만 뒤처진 건가" 싶을 때 기억할 사실 — 정답을 가진 곳은 아직 없습니다. 수천 명 규모의 회사도 지금 막 시행착오 중이에요. 오히려 혼자 일하는 사람은 결재 없이 바로 실험할 수 있으니, 시행착오의 속도에선 이쪽이 빠릅니다.
H님의 업무 설명이 흥미로웠어요. AI를 멋지게 활용하는 게 일일 줄 알았는데, 실제로는 사용량(토큰) 정책을 정하고, 개인정보를 가리고(마스킹), 보안 사고를 막는 일이 대부분이래요.
코덱스를 사용하는 쪽보다는, 코덱스를 관리하는 쪽이 좀 더 커요. 토큰 정책은 어떻게 하고, 마스킹은 어떻게 하고.
— H님1인 기업 버전으로 번역하면 이렇습니다. AI를 잘 "시키는" 것만큼이나, API 키 관리·비용 한도·민감 정보 분리 같은 "관리"가 곧 실력이라는 것. 회사가 사람을 채용해서 시키는 그 일을, 혼자 일하는 사람은 스스로에게 해줘야 합니다.
"AI에서 한계를 느낀 적 있냐"고 물었더니, 돌아온 답이 이 커피챗의 백미였습니다.
병목이라는 게 AI의 병목도 있지만 — 제가 많이 알수록, 그러니까 질문을 잘할수록 잘 해결되거든요. 그게 오히려 저의 병목이 아닌가 싶어요.
— H님그 회사엔 비개발자도 많고, 전부 AI를 쓴답니다. 그런데 결과 차이는 도구가 아니라 "질문을 어떻게 하느냐"에서 난대요. 큰 그림을 가진 사람이 좋은 질문을 하고, 좋은 질문이 좋은 답을 받는 구조. 모델 탓을 하기 전에 내 질문을 돌아보게 되는 말이었습니다.
요즘 AI에게 일을 맡기는 방식 얘기도 나왔어요. 짧게 시키고 끊는 게 아니라, 권한을 주고 몇 시간씩 통째로 맡겨두는 방식이요.
두 시간 했을 때랑 열 시간 했을 때랑 다르더라고요. 확실히 10시간 줬을 때 퀄리티가 높아요. 물론 토큰이 많이 들지만.
— 커피챗 중AI에게 "딱 이것만 해"라고 시키면 딱 그만큼만 나오고, 목표를 주고 시간을 주면 스스로 점검하고 고치면서 완성도가 올라간다는 겁니다. 비용과 품질의 교환이긴 하지만, 중요한 일일수록 잘게 시키지 말고 통째로 맡겨볼 것 — 양쪽 다 동의한 지점이었어요.
마지막은 방향 이야기. 지금의 AI는 아직 "도구"라는 데 둘 다 동의했지만, 다음 단계 그림이 재미있었습니다.
이제 슬슬 도구에서 동료로 발전해야죠. 저는 제 페르소나 에이전트를 만들고 있어요. 약간, 저의 그림자죠. 제 취향이랑 좋아하는 걸 학습시켜서 — 나중엔 복제해서 군단을 만드는 거예요.
— 커피챗 중내 일하는 방식·취향·기준을 기록으로 쌓아서 AI에게 입히면, 언젠가 "나처럼 판단하는 분신"이 여러 명 생긴다는 구상. 허황되게 들릴 수 있지만, 그 첫걸음은 의외로 소박합니다 — 오늘 한 일과 결정을 꾸준히 기록해두는 것. 기록이 없으면 학습시킬 '나'도 없으니까요.
대기업도 다들 모르면서 하고 있다 — 뒤처진 게 아니라 다 같은 출발선이다.
AI를 시키는 것만큼 관리(비용·보안·기록)가 실력이다.
병목은 AI가 아니라 질문하는 사람 — 큰 그림이 좋은 질문을 만든다.
중요한 일은 통째로 맡기고, 나의 기록을 쌓아라. 그 기록이 언젠가 나의 분신이 된다.