AI로 개발할 때 진짜 위험: 못 만드는 게 아니라, 잘못 생각한 걸 너무 잘 만들어준다

함께 티키타카 하는 대화세션과 클로드코드 대화세션을 열어놓고 AI와 아이디어를 나누면서 개발을 진행했습니다.

내가 만든 서비스를 내가 쓰다가 "이거 당연히 이렇게 되어야 하는데?"라고 생각한 게 있었습니다. 구현을 시키기 전에 습관처럼 "먼저 구조부터 검토해줘"라고 했습니다. 돌아온 답은 제 생각이 틀렸다는 것을 알게되었습니다. 그대로 시켰으면 잘못된 설계를 그대로 정확하게 구현할 뻔했습니다.

상황

관심사를 "별"로 만들어 모으는 커뮤니티를 혼자 만들고 있습니다. 별에는 이름과 태그가 있습니다. 얼마 전 별 이름 수정 기능을 붙였는데, 쓰다 보니 태그는 못 고친다는 걸 알았습니다.

그리고 바로 이렇게 생각했습니다.

별 이름이 바뀌면 태그도 같이 바뀌어야 하는 거 아닌가?

당연해 보였죠. 제 화면의 "여행" 별은 태그도 "여행"이었습니다. 하나처럼 보였습니다. 그런데 이 별을 다른 카테고리로 고치고 싶었습니다. 그래서 이름 고치면 태그도 따라가는 게 자연스럽지 않나 싶었습니다.

바로 시키지 않고 먼저 물었습니다. "태그 구조가 어떻게 돼 있는지 검토만 해줘."

감사 결과가 전제를 뒤집었다

돌아온 답은 이랬습니다.

• 태그는 중앙 tags 테이블 + 정션 두 개(star_tags, post_tags)로 되어 있습니다.
• 별 태그와 글 태그는 완전히 독립이다. 파생 관계가 없습니다.
• 별 태그는 별을 만들 때 사용자가 직접 입력하는 값입니다. 이름에서 자동 생성되는 게 아닙니다.

이미지 불러오는 중…

그럼 왜 제 화면에선 이름과 태그가 같았을까요. 가입할 때 관심사를 하나 받아서 이름에도 태그에도 자연스럽게 똑같이 넣어주었기 때문이었습니다. 그냥 우연이었습니다. 저는 그 우연을 보고 "둘이 연결돼 있다"고 읽었던 겁니다.(테스트 실패 ㅠㅠ)

그리고 결정적인 한 마디가 따라왔습니다.

자동 연동은 하면 안 됩니다. 이름과 태그는 목적이 다릅니다.

왜 하면 안 되나

• 이름은 내 표현입니다. 자유롭게 꾸미고 자주 바꿉니다. "여행"에서 "세계여행 로그 ✈️"로.
• 태그는 남이 나를 찾는 통로입니다. 검색이 이름과 태그를 함께 훑기 때문에, 태그는 발견을 위한 공용 키워드고 안정적이어야 합니다.

이 둘을 묶으면? "여행" 별을 "세계여행 로그 ✈️"로 고치는 순간 태그도 바뀌고, "여행"으로 검색하던 사람은 이 별을 못 찾게 됩니다. 사용자는 표시 이름만 고친 줄 압니다. 발견성이 사라진 걸 모릅니다. 알려주지도 않습니다.

제 직감대로 구현했으면 정확히 이 동작을 만들었을 겁니다. 그리고 한참 뒤에 "왜 내 별이 검색에 안 잡히지?" 하고 다시 파고들었겠죠.

걱정했던 것 중 실재하지 않은 것

테스트에서 부수적으로 확인된 것도 있습니다. 제가 우려한 부작용 중 없는 게 있었습니다.

별 태그를 바꾸면 그 별의 글들 태그가 대량으로 바뀌는 게 아닐까 싶었습니다. 아니었습니다. 글 태그는 별 태그와 독립이라 서로 영향이 없습니다. 연결도 안전했습니다. 사람 사이 연결은 태그가 아니라 별 ID로 걸려 있어서, 태그를 어떻게 바꿔도 기존 관계가 끊기지 않았습니다. (다행입니다. AI 에게 맡겼더니 이런 부분이 예측이 안됩니다.)

즉 걱정의 절반은 실체가 없었고, 정작 진짜 위험(발견성 소실)은 제가 생각도 못 한 쪽에 있었습니다.

결정

자동 연동은 버리고, 태그를 직접 편집하게 했습니다. 이름과 태그를 각각 따로 고칩니다.

부작용이 아예 없진 않습니다. 태그를 지우면 그 태그로 오던 유입이 끊깁니다. 하지만 사용자가 직접 지운 것이라 결과를 예상할 수 있습니다. 이름을 고쳤는데 태그가 몰래 바뀌는 것과는 질이 다릅니다.

다만 제 직감이 완전히 헛것은 아니었습니다. 별의 주제 자체가 바뀌는 경우가 있습니다. "여행" 별을 "등산"으로 고쳤는데 태그가 "여행"이면, 이제 태그가 거짓말을 합니다. 그래서 이름 수정 직후에 "주제가 바뀌었다면 태그도 확인"이라는 가벼운 안내를 띄웁니다. 자동으로 바꾸진 않고, 통제는 사용자에게 두되, 잊지만 않게.

남은 생각

AI에게 코딩을 맡기면서 굳어진 습관이 하나 있습니다. 바로 코딩을 하지 않고 먼저 검토하라고 지시하는 것.

이번에 한 건 "태그도 같이 바뀌게 해줘"가 아니라 "구조부터 검토해줘"였습니다. 그랬더니 제 전제가 틀렸다는 답이 왔습니다. 바로 시켰다면? 아마 잘 구현됐을 겁니다. 요구대로 정확하게. 잘못된 요구를 잘 구현한 결과물이요. (그런데 AI 모델이 진화할수로 이런 부분도 고쳐지지 않을까 생각됩니다.)

이게 AI로 개발할 때 진짜 리스크 같습니다. 못 만드는 게 아니라, 내가 잘못 생각한 걸 너무 잘 만들어주는 것. (솔직히 저 개발자인데 AI가 저보다 코딩 잘합니다. 그리고 논리적 오류도 나름 잘 잡아냅니다.)

그리고 이 일에서 AI가 잘한 건 코드를 쓴 게 아니었습니다. 스키마를 읽고 제 전제를 반박한 것이었습니다. 저는 화면에 보이는 표면(이름과 태그가 같아 보임)을 패턴으로 읽었고, AI는 구조를 읽었습니다. 사람이 표면을 보고 AI가 구조를 보는 이 분업이, 요즘은 코드 생성보다 더 쓸모 있게 느껴집니다.

혼자 만드는 관심사 커뮤니티를 개발하며 겪은 일들을 기록합니다. → galaxyconstellate.com