백엔드 엔지니어 이재혁
if(kakao)25 후기: AI 기업으로 바뀌는 카카오 본문
if(kakao)25를 온라인으로 보고 난 후기입니다.
전체 느낌 한 줄: 카카오는 전사 비즈니스의 핵심을 AI로 옮기고 있어 보인다. PlayMCP가 인상적이다.
Day 1 오전
카카오의 AI: 카나나 (Kanana)
카카오가 자체 AI 모델을 만들고 있을 것이라는 건 예상이 되는 내용이었다.
그런데 이번 발표에서 내게 와닿았던건, "Kanana Nano"였다.
카나나 나노는 모델의 크기를 작게 만들어 온디바이스에서 실행할 수 있도록 만든 모델이다.
온디바이스로 작동하며, 카카오가 개인 정보를 안전하게 보호하면서도 AI 기능을 제공하기 위해 자체 모델을 작게 튜닝한 버전이다. 통화녹음요약, 대화맥락 파악 등 사생활 정보를 보호한다는 목적에서 개발했다고 한다.
그런데, 카나나 나노를 구동하기 위한 스펙이 되는 스마트폰만 카나나 나노를 사용할 수 있다고 한다. 좋은 컴퓨터, 강력한 컴퓨팅 파워는 개발자와 같이 컴퓨터를 직접 다루는 사람들이 아니라면 약간 사치일 수도 있지 않나, 싶었던 생각이, AI 시대에 다다르며 많이 바뀌고 있다. 이제는 모든 사람들이 강력한 컴퓨터를 가지고 있어야 하는 시대가 오는 것 같다...
아래와 같이 다양한 튜닝 버전을 개발했다고 한다.
오픈 AI와 협력
옛날에 샘 알트먼이 한국에 와서 카카오 관계자와 만났다는건 들었기 때문에 오픈 AI와 뭔가 할 것이라는건 알고 있었다.
카카오톡에 ChatGPT를 포함시키겠다는 발표! ChatGPT의 GPT 5버전을 제공한다. 사실 이 내용 들었을 때 그래서 뭘 하려는걸까? 싶었지만, 뒤에서 PlayMCP 내용을 들으면서 카카오가 나아가는 방향을 엿볼 수 있었다.
오픈 AI에서 오신 분들이 몇 마디 나눠주시고 가셨는데, 구체적인 협력 내용은 말씀하시지 않으셔서 아쉽긴 했다.
쓰는이에 집중. 쓰기좋게 맞춤.
이번 if(kakao)25에서 중간중간 보여주던데, 이번 컨퍼런스의 표어같은 느낌도 들었다. 보이스톡 통화녹음 및 요약, 카카오톡 채팅에서 바로 ChatGPT에게 물어보고 공유할 수 있는 기능 등 사용자에게 집중해 어떻게 하면 쓰기 좋을지 맞췄다는 관점에서 발표를 진행했다고 느껴졌다. 숏폼 개편은 많은 질타를 받고 있는데... AI 부분의 방점은 좋아 보인다.
Day 1 오후
숏츠와 크리에이터 내용은 개인적으로 관심이 없어서 대충 넘겼는데, 특별히 인상 깊었던게 두 가지 있긴 하다.
1. 사진을 영상처럼 생동감있게 바꿔주는 기능
사진을 영상으로 만들어주는 기능을 시연해주셨다.
영상에서 어느 부분이었는지 기억이 나지 않아 스크린샷은 첨부하지 못했다 😓
동영상 생성 AI 모델 "카나나-키네마(Kinema)"라고 한다.
2. 웹툰 숏츠를 AI로 빠르고 저렴하게 생성하는 기능 (Helix Shorts)
특히, AI로 자동화하면서 다국어 생성까지도 해낸 것이 인상 깊었다.
추천 피드 엔지니어링
이 부분은 백엔드 엔지니어로서 특히 듣기 좋은 내용이었다고 생각한다.
백엔드 엔지니어링에 관심이 있으시다면, 이 부분은 직접 들어보시는걸 추천하며, 링크를 남긴다.
해당 발표 중에서도 주니어 엔지니어로서 속도 vs 품질의 균형과 어떻게 하면 둘 다 놓치지 않을 수 있을지 생각해볼 수 있는 부분이 기억에 남는다.
- 고품질과 속도 사이의 딜레마
빠른 응답 속도가 긍정적 사용자 경험의 필수 요건이다
추천 피드를 사용자에게 보여주기 위한 목표 시간: 30ms
그런데, 30ms 만에 고품질의 응답을 제공하기 어렵다.
해결책. 저장 기반 추천
미리 계산된 추천 결과를 꺼내서 추천하는 방식
문제점: 실시간 사용자의 반응을 반영하지 못해, 낮은 추천 품질
속도를 위해 품질을 포기해야 할까?
최초 접근시: 낮은 품질, 적은 수의 추천만 제공
스크롤시: 높은 품질, 많은 수의 추천
추가 추천 위치에 도달하기 전에 미리 요청 → 추천 알고리즘을 돌리기 위한 시간 확보
속도 vs 품질 사이의 선택을 사용자 경험을 디테일하게 따지다보면 둘 다 가져갈 수 있다는 교훈을 얻을 수 있는 좋은 내용이었다.
Day 2
PlayMCP
그동안 MCP는 개발자의 영역으로 느껴졌다. gemini-cli에 MCP 붙이고, cursor에 MCP 붙이고...
카카오는 이런 MCP를 카카오톡 기반으로 일반 대중에게 제공하고자 한다.
이번 Day 2 발표에서 AI 시대의 발전 방향을 엿볼 수 있었는데, 앞으로 다음과 같은 관계가 생겨날 것 같다.
대형 플랫폼: MCP Platform (비유: 구글 플레이, 앱스토어 등)
소규모 서비스: MCP Provider (비유: 스마트폰 앱 등)
카카오는 MCP 플랫폼이 되고 싶어 한다.
일반 사용자는 PlayTools(MCP Provider)를 선택해서 채팅에 추가하고, 자연스럽게 대화에 녹아들게 된다.
멜론을 추가하면, 노래를 검색해달라고 했을 때 멜론을 거치는 식으로, "노래"라는 도메인에서 MCP 바탕으로 경쟁을 하게 될 것 같다. 이제 서비스 MCP의 품질을 높이는 것도 중요한 시대가 도래할 것이라고 생각한다.
사용자의 AI 채팅 속에 녹아들어, 서비스를 제공하고 싶은 분들은 직접 발표를 들어보시기를 추천한다. 발표 링크
이미 실제로 나만의 서비스를 올리고, AI 채팅에서 테스트해볼 수 있는 상태이다. PlayMCP 홈페이지
생성형 AI가 작동하는 방식
LLM에서 왜 환각 현상이 발생하는지 가장 쉽게 이해할 수 있었던 예시였다.
이 세상의 모든 데이터를 모아놓은 데이터가 왼쪽의 사진이라고 한다면, 실제로 LLM에 저장되는 데이터는 가운데에 있는 사진이라고 한다. 해상도가 낮게 저장된다. 사용자의 프롬프트가 들어오면, 그 해상도를 스스로 업스케일링 하는 과정에서 일부 원본 데이터의 손실이 발생한다. 이것을 환각이라고 부른다.
Kanana-Safeguard
이런 환각 현상 때문에 잠재적으로 LLM이 위험성을 가지고 있다고 생각해, Kanana-Safeguard 라는 시스템을 만들고, 오픈소스로 공개했다고 한다.
여러 상황에 맞춰 튜닝까지 해놨다.
Kanana-Safeguard가 AI 시스템에서 자동차의 안전벨트와 같은 역할을 해내기를 기대한다고 한다.
AI와 함께하는 엔지니어링
이 부분은 영상을 직접 보기를 추천한다. 링크
- 24시간짜리 해커톤에서 AI 활용하도록 해 10시간 해커톤으로 바꿨던 사례
- 크롬 확장 프로그램으로 기존 서비스를 나만의 방식으로 개선하는 시도 추천
AI Native로 전환하려면 개발자만 바뀌어서는 안된다. 서비스 개발 각 부분의 중요 파트에서 병목을 제거해야 한다.
개발자들과 조직의 생산성에 주목하고 실험을 진행했다고 하는데, 아래 글도 큰 도움이 될 것이다.
카카오 AI Native 사례집: https://tech.kakao.com/posts/746
[목차] AI Native: 실행과 확산 사례집 - tech.kakao.com
실행: AI와 함께 개발하기 - SDLC 전 과정 협업 사례 카카오는 소프트웨어...
tech.kakao.com
마무리
카카오가 서비스 개발 단계부터 사용자에게 제공하는 서비스, 심지어 다른 개발자들의 AI 플랫폼까지! 모든 부분에서 AI에 집중해 변화를 하고 있다는 느낌이 들었다.