Agentic AI 를 사용해보면서..

근래에 회사 프로젝트를 하면서 Agentic AI를 사용하여 일을 하게 되었다. 물론 SNS를 통해 요즘은 바이브 코딩이라는 걸 한다는 것 즈음은 알고 있었지만, 내가 직접 코딩을 할 일은 없어서 그런가 보다 하고 있었는데 이번에 운이 좋게도 요즘 유행하는 Agentic AI를 사용하여 일을 하게 된 것이다. 

Google Nano Banana가 그려준 Agentic AI 이미지

회사에서는 Google Gemini Pro를 사용할 수 있어 간단한  일을 하거나 정보들을 검색할때 채팅이나 NotebookLM, CoLab 등을 사용해 보기는 했지만, 구독료를 내야 하는 OpenAI의 ChatGPT나 Antropic의 Claude를 써 본적은 없었다. 

Obsidian이나 VSCode를 설치하고, 거기에 opencode를 설치해 ChatGPT, Claude 또는 Gemini 등의 LLM을 연동하고, 하고 싶은 일을 대화창에 입력하니 스스로 디렉터리를 만들고, 애플리케이션을 설치해주고, 문서를 만들어 준다. 물론 이런 과정없이 웹사이트의 채팅 앱에서 그냥 말로 요청을 해도 기가막힌 슬라이드 자료를 뚝딱해서 만들어 주는데, 정말 깜짝 놀랐다. 

몇일동안 사용을 해 보면서 정보를 알아서 찾아서 문서를 만들어주는데 왠지 LLM이 말하는 건 다 그럴듯 해 보였다. 물론 가끔은 내가 시킨게 아니라 그냥 일반적인 정보들을 찾아서 알려주는 것 같다는 생각이 들때도 있었지만, 그냥 그 말이 다 맞는것 같았다. 그리고, LLM이 다 해주니 생각이라는걸 잘 못하게 되고, 생각하는거 자체가 그냥 귀찮아서 주는대로 다 맞겠지 라고 믿었던것 같다. 

매일 같은 프로젝트를 하는 회사 사람들과 모여서 문서를 서로 피드백해주는 과정을 거치며, 내가 AI를 잘못 사용하고 있었구나! 너무 AI를 믿었구나! 라는 걸 깨달았다. 분명 나에게는 경험이라는 매우 훌륭한 걸 가지고 있는데도 그걸 제대로 사용하지 않았던 것이다.

AI를 사용할 때는 직접 해보고 확인하고, 정책과 기술이 반영된 공식 문서를 확인하고 하는 과정들을 거치면서 LLM이 주는 정보가 정확한 것인지를 검증하는 절차를 반드시 거쳐야만 한다. 어떤 Yutobe 동영상을 보니 "AI를 사용하는 것은 쉬우나 이를 잘 사용하는 것은 매우 어렵다" 는 말을 들었다. 그 말이 맞는것 같다. 

아무튼 나는 오늘도 AI를 잘 사용할 줄 아는 엔지니어가 되기 위해 고군분투 중이다. 세상에 꽁짜로 얻어지는 것은 없다. 이것 역시 많이 시간을 투자해야 하고 많이 사용해 봐야 한다.