잇츠 스터디 크루(IT's Study Crew) 실전 생성형 AI 스터디 중간 회고

5월부터 잇츠 스터디 크루(IT's Study Crew) 1기의 '실전! 생성형 AI를 활용하여 나만의 IT 팀 구축하고 서비스 만들기' 라는 스터디에 참여하게 되었다. 꼭 참여하고 싶어서 자기소개서를 열심히 썼는데 합격했다. 함께할 수 있어서 너무 기쁘다🌟

스터디 리더님과 스터디원 분들 모두 다양한 직군의 다양한 연차를 가진 여성분들로 구성되었다. 개발자 여성분들이 모여 개발 이야기를 나눌 수 있는 공간이 있다는 것부터 너무 좋다! 스터디가 끝나면 내가 얼마나 성장해 있을지도 기대되고 스터디원 분들이 보여주실 멋진 프로젝트 결과물들도 기대된다. (다들 실력이 뛰어나셔서 나도 열심히 따라가야겠다.😇 나만 잘하면 된다...)

 

💡참여한 목표

스터디를 통해 얻어가고 싶었던 점은 GPT와 가까워지는 것, 그리고 서비스 하나를 만들어보는 것이다!

 

💡지원하기 전에 들었던 생각

채팅 형태의 GPT는 관심있는 사람이라면 누구나 한 번쯤 사용해 봤을 것이다. 나도 여러 가지 용도로 사용하고 있는데, 주로 개발, 외국어 공부, 알고리즘 공부, 작문 첨삭에 활용하고 있다. 일상 생활에서 사용해보면서 척척 대답해주는 GPT에 대해 관심이 생겼다.

 

ChatGPT, Gemini, Claude 등 다양한 모델이 존재한다. 새로운 모델이 나왔다 하면 "아, 그래?"하면서 철새처럼 가서 찍먹해보았다. 같은 질문을 해도 모델마다 답변을 다르게 주는 점이 신기했다. (스터디 1회차 때 이것이 과제로 나와서 더 본격적으로 비교해볼 수 있었다!) GPT가 어떤 때는 정말 말도 안 되는 말을 지어내기도 한다. 이렇다보니 서비스 개발자 입장에서는 '어떻게 하면 이런 단점을 보완하고, 답변을 개선하여 서비스에 적용할 수 있을까?' 라는 의문이 자연스럽게 들었다.

 

GPT에 대해 입문하기 위해 당시 베스트셀러 였던 책을 하나 빌렸다. 그리고 ChatGPT API와 playground를 조금 만져 보며 간단한 프로젝트 하나를 만들었다. (대충 생일을 입력하면 오늘의 운세를 알려주는 서비스였다.)

하지만 이걸 한 번 해보니까 내 궁금증은 오히려 더 커졌다. 책에서 답변을 잘 유도하는 방법이랑 설정법은 알려줬는데 정확한 원리는 알려주지 않았기 때문이다. 나는 맞춤형 답변을 해주는 LLM이 갖고싶어졌다!

이미 LLM을 서비스에 적용하는 개발자 분들을 살펴봤는데, 이 분들은 파인튜닝을 하거나 Ollama로 로컬 LLM을 돌려서 개인화하여 사용하셨다. 나는 단순히 책을 보고 따라했을 뿐이라 그것을 바로 이해하고 적용하기엔 높은 벽을 느꼈다.

 

그래서 일단 GPT를 알아보고 친해지는 시간을 가져보면 어떨까 하는 생각이 스쳤다. 그래서 스터디에 신청하게 되었고, 스터디 4회차가 지난 시점에서, 예전보다 이해도가 높아진 나를 발견할 수 있었다. Completion API, OpenAI Assistants API의 차이를 알고 system message, use message, assistant message의 각 메시지의 기능을 알게되었다. assistants 를 생성하고 JSON 형태로 답변을 도출하는 방법을 알게되었고 AI끼리 대화하며 답변을 만드는 chatDev 라는 것을 알게되었다. 어깨가 으쓱하고 뿌듯하지만, 아직 갈 길이 멀다!

 

💡앞으로 개발하고 싶은 프로젝트

이번 스터디를 통해 내가 만들려는 서비스는 개발자가 처음 서비스를 구축하려 할 때 도움을 주는 어시스턴트다.

• 만들고 싶은 서비스를 간단히 말하면 (예: 음악 스트리밍 서비스를 만들고 싶어)
• 필요한 주요 기능을 구체화해 주고 (요구사항 분석 에이전트)
• 해당 기능에 필요한 클라우드 인프라 아키텍처를 설계하고 (시스템 아키텍처 설계 에이전트)
• 다이어그램을 그려주는 서비스다. (다이어그램 생성 에이전트)

AWS, GCP 같은 클라우드 서비스 내에서도 선택할 수 있는 서비스가 정말 많은데, 이를 잘 모르는 입장에서는 좋은 마일스톤이 되어줄 것 같다. (사실 내가 필요해서 만들고 싶다.) DAU 만 명 정도를 가정하고 확장성 있는 인프라 아키텍처를 그려줬으면 좋겠다. 그리고 시간이 남는다면 개략적 규모를 추정하여 비용 계산을 해주는 기능도 추가해보고 싶다!

 

스터디 리더님과 스터디원들!

각자 만들고 싶은 프로젝트의 설계를 의논하는 시간도 가졌다.

음료수와 과자도 함께!