생성형 AI, 우리 회사에 성공적으로 도입하는 10단계 가이드 (2)

생성형 AI 도입, 대체 어디서부터 시작해야 할까요? 커머스, 마케팅, 제조, 건설, 물류 등 다양한 기업을 컨설팅한 달파가 AI 도입 10단계 가이드를 준비했습니다. 구체적인 예시들이 있으니까요. 믿고 따라오셔도 됩니다. 이제 우리 회사에 딱 맞는 AI 도입 어렵지 않을 거에요.

혹시 1편을 안 읽으셨다면? 👇

생성형 AI, 우리 회사에 성공적으로 도입하는 10단계 가이드 (1)

가이드 6단계 - 생성형 AI 학습에 필요한 데이터 준비와 관리

• AI 솔루션이 학습하기 위해 필요한 데이터를 준비해야 해요.
• 여기서 고려할 점은 데이터의 양과 질입니다.
  • 아무리 데이터의 퀄리티가 높아도 일정 수준 이상의 양이 없으면 제대로 학습이 되지 않아요.
  • 반대로 양이 아무리 많아도 퀄리티가 낮으면 쓸모가 없습니다.
  • 따라서 학습에 필요한 데이터의 양과 질의 균형을 잡는 게 중요해요.
• 이처럼 어떤 데이터를 학습해야 하는지, 어느 정도의 양이 필요한 지, 어느 정도의 퀄리티가 필요한 지 많은 고민이 필요해요.
• 이 학습 단계에 따라서 AI 프로젝트 성능과 결과가 매우 달라질 수 있기 때문이죠.
• 이 과정은 AI 프로젝트의 가장 큰 성패를 좌우하기 때문에 전문가의 도움을 받는 것도 추천 드립니다.

가이드 7단계 - 프로토타입(데모) 개발 및 테스트

• 잘 정리된 데이터를 받고 나면 프로토타입(데모)을 개발해 테스트하는 기간이 필요해요.
• 곧바로 제품을 만들지 않고 프로토타입(데모)을 만드는 이유가 있는데요.
• 학습과 최적화가 필요한 AI 프로젝트의 특성 때문이에요.
• 웹 페이지, 앱 개발과 같은 프로젝트랑 다르게 AI 프로젝트는 기대하는 성능과 결과의 차이가 많이 발생할 수 있어요.
• 왜냐하면 데이터의 품질, 모델 적합성, 학습 정도에 따라서 기획과 결과물이 달라지기 때문이죠.
• 그래서 프로토타입을 통해서 성능 테스트를 거치고 도입하는 것이 효율적입니다.

가이드 8단계 - 성능 측정 및 최적화

• 만든 프로토타입을 바탕으로 두 가지 과정을 거쳐야 해요.
• 성능 측정과 최적화입니다.
  
• 성능 측정
  • 도입한 AI가 제대로 작동하는지 성능을 측정하는 과정이에요.
  • 성능을 측정하는 방법에는 정량적인 측정과 정성적인 측정이 있습니다.
  • 우선 정량적인 측정이 가능하다면 정량적인 측정을 하는 게 가장 좋습니다. 명확하게 숫자로 파악이 되기 때문이죠.
  • 하지만 해결하고자 하는 문제에 따라서 정성적인 측정만 가능한 경우도 있습니다.
  • 사진의 배경 제거를 예로 들 수 있어요. 배경 재고가 한 픽셀 단위로 잘 됐냐를 정량적으로 평가하기 애매하죠.
  • 이렇게 ‘사람이 봤을 때 괜찮으면 된다’ 이런 것은 정성적으로 평가해야 해요.
  • 다소 어려울 수 있습니다. 하지만 정성적인 기준임에도 불구하고 사전에 기준을 합의하고 정의하는 게 중요합니다. 그래야 추후 AI 도입의 유지를 결정함에 있어서 문제가 없습니다.
  • 성능 측정의 판단이 어려울 경우 여러 솔루션을 도입해 본 전문가의 도움을 받는 것도 추천 드립니다.
    
• 최적화
  • 성능 측정과 동시에 최적화 과정이 필요해요.
  • 최적화란 결과물의 정확도, 응답 속도, 컴퓨팅 리소스를 효율적으로 맞추는 과정이에요.
  • 최적화가 이루어지지 않았을 때를 예로 들어볼게요.
    • 정확한 결과물이 나와도 응답 속도가 느린 경우가 있어요. 서비스 사용이 어려울 수 있습니다. 이 경우 응답 속도를 높이는 과정이 필요해요.
    • 결과물의 정확도와 응답 속도 측면에서 만족스러워도, 비용 면에서도 최적화가 필요해요.
      • 데이터의 양이 적은데 컴퓨팅 리소스가 많이 쓰이면 비용적인 부분에서 낭비에요.
      • 반대로 데이터 양이 많거나 추론해야 되는 양이 많은데 컴퓨팅 리소스가 부족하면 성능이 떨어지거나 속도가 느릴 수 있어요.
  • 이런 요소들을 효율적으로 세팅하는 게 최적화에요.
  • AI를 효율적으로 활용하기 위해 반드시 고려해야 합니다.

가이드 9단계 - 장기적인 유지 보수 계획 수립

• 이제 장기적인 유지 보수 계획을 수립해야 해요.
• 다른 IT 프로젝트에 비해 AI 프로젝트는 지속적인 관리 및 유지 보수 계획을 수립하는 것이 더 중요해요. 2가지 이유가 있어요.
  • 첫째, AI는 지속적인 데이터 학습이 필요하기 때문이에요.
    • AI가 제대로 성능을 내기 위해서 서비스를 사용하며 얻은 데이터와 피드백을 주기적으로 반영해야 해요.
  • 둘째, AI 모델이 현재 빠르게 발전해서 새로운 모델이 나오고 있기 때문이에요.
    • 주기적으로 발전하는 AI 모델을 확인해서 비용과 성능을 최적화 할 필요가 있어요. 이를 통해서 서비스를 계속 고도화 할 수 있기 때문이죠.
  • 따라서 AI 서비스를 이용하기 위해선 지속적인 관리 및 유지 보수가 필요합니다.
• 이렇게 AI에 대한 지속적인 관리 및 유지 보수는 인력이 반드시 필요해요. 즉, 기업 측에서 많은 리소스가 발생함을 의미하죠.
• 그 때문에 AI 컨설팅 업체를 이용하는 것도 좋은 방법입니다.
• 유지 보수와 정기적인 업데이트에 힘을 쓸 필요가 없으니까요.

가이드 10단계 - 효용성 모니터링 및 지속적인 개선 시스템 운영

• AI 서비스를 도입하고 사용하면서 실제 비즈니스에 끼치는 영향을 모니터링 하세요.
• 각 솔루션마다 효용성을 측정하는 방법은 다양합니다.
  • 예를 들어, 인건비 절감 솔루션은 인건비 절감이 얼마나 일어났는지. 근로 시간을 전후로 비교해 업무 시간 단축 유무 등을 확인할 수 있어요.
  • 텍스트 혹은 이미지 검색 엔진이라면, 제대로 나오지 않던 검색이 얼마나 잘 나오는지 확인할 수 있어요.
  • 유사 상품 추천이라면, 상품의 업셀링이 얼마나 발생했는지를 확인할 수 있어요.
• 이처럼 우리 회사에 도입한 AI 서비스가 잘 사용되는지 효용성을 측정하세요.
  • 효용성 측정은 사전에 체계화 해놓을 수록 좋습니다.
  • 도입 이후 만드는 것보다 초기에 만들어서 점차 개선하는 게 좋습니다.
  • 지속적인 측정과 개선을 통해 효율을 높여나가세요.

생성형 AI 도입, A부터 Z까지 한번에?

지금까지 생성형 AI 도입에 필요한 과정을 10단계로 나누어 살펴보았어요. 우리 회사에 맞는 AI를 도입하기 위해서는 도입 목적, 효율적이고 현실적인 솔루션 선정, 사후 관리 등 종합적인 요소들을 고려해야 합니다.

잘못 선정된 AI 도입의 경우, 기업의 비효율성과 리소스 낭비로 이어지는데요. 전문가의 도움을 받아 리소스 낭비는 줄이고, 체계적인 과정을 통해 보다 효율적인 AI 서비스 활용을 할 수 있습니다.

생성형 AI 도입, A부터 Z까지 한번에 진행하고 싶다면?

기업에게 필요한 모든 AI를 제공하는 ‘AI 다이소’ 달파의 컨설팅을 받아 보세요.

달파는 현재 KT커머스, 대홍기획, CJ올리브네트웍스 등 대기업과
마이리얼트립, 머스트잇, 메이크어스(딩고 운영사) 등 스타트업에게
AI 솔루션을 개발해 제공하고 있습니다.
이 밖에도 총 150개 기업 고객들과 AI 프로젝트를 논의해오고 있어요.

달파의 전문 AI 컨설턴트들이 우리 회사에 딱 맞는 컨설팅을 진행해 드립니다.

함께 보면 좋은 글 😄

• 기업 AI 활용, 7가지 사례(feat. 당근마켓, 드롭박스, Geek News)
• AI 활용법 1장 - 고객 마음을 사로잡는 마케팅
• AI 활용법 2장 - 커머스 기업을 위한 AI 활용 백서
• AI 활용법 3장 - 무궁무진한 교육 AI