[AI] 지금까지의 AI에 대한 사실과 오해 그리고 현실적인 올바른 활용법

 

1. 지금까지의 AI에 대한 사실과 오해 그리고 현실적인 올바른 활용법

---

[ AI와 함께하는 시대 ]

최근의 조사 결과에 따르면, 많은 지식 노동자들이 업무에 AI를 활용 중이라고 한다. Stack Overflow 2025 Developer Survey에 따르면, 84%의 개발자가 AI 도구를 사용하거나 사용할 계획이 있다고 응답했다. Microsoft 연구 결과에 따르면 75%의 개발자가 AI 도구를 정기적으로 사용하고, 이 중 64%는 매주 사용한다고 응답했으며, Business Insider의 경우 이미 90%의 엔지니어링 팀이 AI 기반 코딩 도구를 워크플로우에 도입했고, 48%는 두 개 이상의 AI 도구를 병행 사용 중이라고 한다.

개발자 뿐만 아니라 마케터의 65%, 기자의 64%, 변호사의 30% 등이 AI 사용중이라고 하니, 오늘날에는 AI가 정말 모든 사람들의 일상 속에 녹아들었음을 알 수 있다.

 

 

 

[ AI로 인한 생산성 증대 효과의 사실과 오해 ]

많은 사람들이 AI로 인한 생산성 증대 효과를 얻었다고 이야기한다. GPT-4 사용으로 컨설턴트들이 18개 업무를 25% 더 빠르게 수행했고, 엔지니어들은 GitHub Copilot 활용하여 코딩 생산성을 26%까지 향상시켰다는 등 AI로 많은 이점을 누리고 있다고 한다. 심지어는 AI가 엔지니어의 생산성을 10 ~ 100배까지 높이고, 심지어 코딩을 몰라도 제품을 만들고 출시할 수 있다고도 한다.

하지만 많은 연구들이 이에 대한 반례를 제공하고 있는데, 많은 개발자들이 AI가 30~50%의 업무를 대체한다는 주장은 과장이라고 보고, 실제 효과는 1~10% 수준이라는 의견이 지배적이다. 일부 초급개발자는 문법이나 구조 제안 덕분에 생산성 향상을 체감하지만, 경험 많은 개발자는 AI 코드 품질 문제로 오히려 검증·수정 과정에 더 많은 시간이 소요되어 생산성이 19% 하락했다고 보이기도 한다. 그 외에도 AI 코드 작성을 남용할 경우 품질과 보안 리스크가 증가한다고 한다.

따라서 우리는 적절한 지점에 즉, AI가 그 능력을 극대화할 수 있는 곳에 AI를 활용할 수 있어야 한다. 그렇지 못하면 오히려 방해 요소로 작용할 뿐이다.

 

 

 

[ 잘못된 AI 활용의 대표적인 예시 ]

대표적으로 복잡한 비즈니스 로직을 AI로 구현하는 것은 "코드 부채"를 늘리는 일이다. 동일한 제품과 매출을 가진 두 회사 중, 100만 줄 코드를 가진 회사보다 10만 줄 코드로 운영되는 회사가 훨씬 더 이해와 수정이 빠르다. 하지만 AI가 작성하는 코드는 통상적으로 많은 코드와 높은 복잡성을 기반으로 하며, 이로 인해 기술 부채가 쌓여 유지보수를 어렵게 만든다. AI가 작성하는 코드는 결국 이해하지 못하는 코드, 즉 레거시 코드를 양산하는 것이다.

물론 부채가 항상 나쁜 것은 아니다. 대부분의 제품은 시장에서 실패할 것이기에, 우리의 제품을 심장에서 검증하고자 하거나 혹은 실험, 가설 검증을 위한 용도의 프로토타이핑 코드는 오히려 AI를 활용하는 것이 적합하다. 사용자의 경험을 빠르게 확인하고, 될 놈이 아닌 제품이라면 그대로 버리는 것이다. 즉, 단기적인 관점에서 사용할 코드는 AI에게 개발을 맡기는 것이 합리적이다.

하지만 장기적으로 유지해야 하는 프로젝트에서는 AI가 작성한 코드가 깨진 유리창을 만들고, 결국 프로젝트 붕괴를 초래할 수 있다. 특히나 비즈니스 로직이 복잡하다면, 그 정도가 심해지기 때문에 신중한 적용과 꼼꼼한 리뷰를 통해 이해도를 유지해야 한다. 물론 AI를 지속적으로 학습시키며 원하는 모습으로 발전시킬 수 있기 때문에 AI를 충분히 활용해도 된다. 하지만 AI가 작성된 코드를 책임 있게 관리하는 태도는 절대적으로 중요하다.

나를 포함해 AI를 통해 복잡한 비즈니스 로직의 구현을 시도했던 대부분의 엔지니어들은, 아직까지는 기대만큼 만족스럽지 못한 결과가 나온다는 사실을 깨달았을 것이다. 컨텍스트의 부족, 흐름 단절, 환각 등의 문제로 한계점을 느끼고 있다. 물론 추후에는 이러한 부분이 더욱 개선될 것이라고 생각하지만, 아직까지는 분명한 한계가 있다.

 

 

 

[ 올바른 AI 활용의 대표적인 예시 ]

AI는 복잡한 코드 작성이나 유지보수에는 아직 한계가 있지만, 보일러플레이트 코드 작성, 간단한 스크립트, 문서 요약·변환, 검색 대체 등의 반복 작업에 유용하다. 즉, 복잡하고 지속적인 관리가 필요한 비즈니스 로직을 작성하는 것보다는, 반복적이고 단순한 작업에서 주로 일시적인 생산성 폭증이 발생한다는 것이다.

따라서 우리는 비즈니스 맥락이 제외된 영역 중 시간을 보내는 많은 부분들에 AI를 접목시키면 그 효과를 극대화 시킬 수 있을 것 이다. 가령 API 호출 로직을 작성하는 것은, 복잡한 비즈니스 로직이 없고 단순 데이터 교환을 위한 코드일 뿐이다. 따라서 API 스펙 문서를 제공해주고, LLM에게 이에 대한 DTO 및 호출 로직을 구현 위임하는 것은 AI가 주어진 일을 잘 처리할 수 있는 대표적인 분야이다. 그리고 이러한 사고 흐름을 바탕으로, 사내 Swagger MCP 서버를 구현하여 AI 활용을 극대화 할 수 있었다. 보다 자세한 내용은 토스 테크 블로그의 내용을 참고하도록 하자.

 

 

따라서 무의식적으로 반복하던 작업들을 발굴하고, 이를 AI에게 위임해야 한다. 즉, AI를 통해 업무 중 일부를 자동화하고, 그 시간을 우리는 더 중요한 업무(비즈니스적 복잡성이 요구되는 부분)에 분배할 수 있어야 하는 것이다. 대표적으로 Git을 활용한 워크플로우(커밋, 스쿼시, PR 작성 등) 역시 자동화를 할 수 있고, API 호출을 위한 HTTP 요청 파일의 생성 역시 대표적인 사례 중 하나이다. 이러한 부분을 지속적으로 발굴해서 AI를 도입하고 그 효용을 높이는 것이, 지금까지의 바람직한 AI 활용 사례일 것이다.

 

 

 

[ 결론 ]

GitHub CEO는 AI 붐 속에서도 “수작업 코딩은 여전히 핵심”이라고 얘기한다. 그는 수 많은 AI 도구들이 등장함에도 불구하고 수작업 코딩 능력의 중요성을 강조하며, AI가 코드를 생성해도 개발자가 직접 수정 및 검토해야 효율적임을 주장한다. 개발자 역할이 사라진다기보다는 AI와 협업하며 전략적 문제 해결 및 설계 역량이 요구되는 방향으로 진화 중이며, AI와 인간 개발자이 유기적인 조합을 이루며 문제를 해결하는 방향이 가장 효과적임을 얘기한다.

내가 최근에 봤던 글들 중 가장 공감하며 보았던 것 중 하나가 "외과의사처럼 코딩하기”라는 글이다. 외과의사가 보조 인력의 지원을 받아 수술의 핵심 부분에만 집중하듯이, 개발자들 역시 AI 도구를 통해 부수적 업무를 위임하고, 비즈니스와 같은 본질적 문제 해결에 전념할 수 있어야 한다는 것이다.

물론 추후에는 AI가 더욱 발전하고, 이러한 부분에 있어 충분히 변화가 생길 수 있다. 하지만 적어도 2025년, 지금까지는 그러지 못한 것으로 보인다.

 

 

 

 

 

참고 자료

• https://shiftmag.dev/stack-overflow-survey-2025-ai-5653
• https://www.businessinsider.com/ai-coding-tools-popular-github-gemini-code-assist-cursor-q-2025-7
• https://www.itpro.com/software/development/microsoft-claims-ai-is-augmenting-developers-rather-than-replacing-them
• https://news.ycombinator.com/item?id=44860731
• https://www.techinasia.com/news/github-ceo-manual-coding-remains-key-despite-ai-boom
• https://www.tornikeo.com/code-is-debt/
• https://www.gauge.sh/blog/ai-makes-tech-debt-more-expensive
• https://blog.val.town/vibe-code
• https://www.geoffreylitt.com/2025/10/24/code-like-a-surgeon