생성형 AI(인공지능)가 사람들의 상상을 뛰어넘는 속도로 빠르게 진화하고 있다.
일본은 실제 사업장에서 생성형 AI를 이용하는 비율이 아직 낮고, 특히 생성형 AI의 핵심기술인 LLM(대규모 언어 모델)을 업무에 효율적으로 활용하는 곳도 적은 것으로 파악되고 있다.
그러나 일상생활에서 생성형 AI를 사용하는 서비스가 자리를 잡아가고 있으며 통신사 등이 앞다투어 개발 경쟁을 펼치고 있다.
NTT, 세계 최고수준 일본어 LLM 개발
LLM은 방대한 양의 데이터를 기반으로 학습된 초대형 딥러닝 모델로 질문에 대응하거나 기계번역, 자동요약 등 자연언어 처리를 실시할 수 있다.
수십억개의 파라미터를 고려할 수 있으며 오픈AI(Open AI)의 GPT-3 모델은 파라미터 수가 1750억개, AI21 Labs의 Jurassic-1 모델은 1780억개에 달하는 것으로 알려졌다.
일본 통신 메이저 NTT가 독자 개발한 LLM Tsuzumi는 파라미터 수 6억개의 초경량 버전과 70억개의 경량 버전이 있으며 세계 최고수준의 일본어 처리능력을 갖춘 것으로 평가되고 있다.
또 Tsuzumi는 LLM을 선택할 수 있는 편의성과 논리 안전성을 향상시킨 LLM 부가가치 기반을 갖추어 용도에 따라 범용 LLM이나 전문적 LLM을 선택할 수 있고 LLM이 생성한 내용에 논리적 문제가 포함돼 있는지 확인하는 논리 필터까지 갖추고 있다.
NTT의 LLM 부가가치 기반을 사용한 어플리케이션인 의사록 작성 지원 툴은 의사록 텍스트와 음성 데이터를 입력하면 회의 논제와 결정사항 요약을 자동으로 생성하며 요약 항목을 선택하면 회의 종류에 따라 요약을 출력할 수 있다.
2023년 가을부터 NTT도코모(NTT Docomo) 그룹과 NTT커뮤니케이션즈(NTT Communications), NTT콤웨어(NTT Comware) 등이 사용을 시작했으며 2024년 3월에는 Tsuzumi를 활용한 상용화 서비스를 시작했다.
심야 콜센터도 AI로 대응 가능
NTT도코모는 커뮤니케이션 AI를 활용해 AI 응대 서비스를 개발했다.
NTT도코모가 개발한 커뮤니케이션 AI는 사용자가 말한 내용을 음성으로 인식한 후 실시간 응답을 생성해 대답하는 방식이며 여러 AI 기술을 조합해 사용자 프로필이나 감정별로, 혹은 음색에서 느껴지는 불안한 정도를 활용해 대답을 선택할 수 있다.
카메라 영상을 통해서는 사용자가 화제에 어느 정도 관심을 가지고 있는지 확률적으로 계산하며 아바타를 이용해 상세 설명도 제공하는
것으로 알려졌다.
여러 사람이 동시에 동일한 서비스에 대해 질문해도 제공 영역이나 다른 서비스와의 비교를 통해 사람별로 다른 관심 정도에 맞추어 응답할 수 있다.
NTT도코모는 AI 응대 서비스를 기존 사용자 대응 채널에 부분적으로 도입하는 방안을 검토하고 있다.
콜센터에 도입해 영업시간 외에는 AI가 대응하게 하거나 아바타를 통해 1차적으로 접수를 받은 후 어려운 태스크나 불안감이 높은 사용자에게 숙련도가 높은 오퍼레이터를 할당하는 활용 방안을 구상하고 있다.
또 생성형 AI와 다른 AI를 조합해 대응 정확도를 높이거나 솔루션을 정립할 예정이다.
우선, 생성형 AI를 통한 실시간 응답이 가능하도록 대화 속도를 개선하고 있으며 Tsuzumi의 경량 특성을 사용하면 속도를 빠르게 높일 수 있을 것으로 기대하고 있다.
미래 뇌 예측해 생활습관 개선
NTT도코모는 뇌 예측 생성형 AI도 개발했다.
뇌에서 기억과 관련된 것으로 알려진 해마는 유산소 운동으로 체적이 커지거나 흡연 때문에 빠르게 위축되기 때문에 평상시 활동들이 모두 미래 뇌의 크기나 인지기능에 영향을 미치는 것으로 파악되고 있다.
NTT도코모의 뇌 사진 예측 생성형 AI는 기존에 MRI로 촬영한 뇌 사진을 바탕으로 앞으로의 뇌 위축이나 해마 체적변화를 예측해 이미지를 생성하는 서비스로 사용자의 생활습관 개선이나 진단 시기를 결정하는데 도움이 될 것으로 기대된다.
앞으로 걸음수, 수면시간 등 스마트폰에서 취득 가능한 생활습관 관련 데이터와 생성형 AI를 조합할 예정이며 뇌 뿐만 아니라 신체와 관련된 다양한 가능성을 이미지로 생성함으로써 사용자가 현재 행동이나 습관에 변화를 줄 수 있도록 도울 방침이다.
뇌 사진 보고서나 헬스케어 어플리케이션을 활용해 개개인의 생활습관 및 성격에 맞추어 미래 뇌 이미지를 생성하고 생활습관 개선을 조언해 뇌 건강 유지 및 개선을 지원하는 용도로 개발하고 있다.
표적 단백질 추적시간 단축
IT 서비스 벤더도 생성형 AI 서비스 제공을 시작했다.
후지쓰(Fujitsu)는 2023년 10월부터 독자적인 생성형 AI 기술에 바탕을 둔 신약 개발 기술을 제공하고 있다.
수만차원의 정보를 가진 표적 단백질 구조와 동적 변화는 파악하기 어려우나 AI 기술로 단백질 형성을 저차원에서 촉진해 입체구조와 연속변화를 정량적으로 예측했으며 기존에는 하루 정도 필요로 하던 표적 단백질 변화 추적시간을 약 2시간으로 단축해 표적 단백질에 결합하는 약제 설계 과정 혁신이 기대되고 있다.
NEC는 오가키(Ogaki)공립은행 그룹이 사용하고 있는 공립 컴퓨터 서비스(KCS)와 연계해 생성형 AI 서비스를 제공하고 있다.
현재 실증실험을 포함해 생성형 AI 이용을 개시했으며 사내 업무 등과 조합해 업무용 문장 작성, 요약, 번역, 매크로, 프로그램 등 코드를 작성하는데 활용할 예정이다.
또 NEC는 의료문서 작성을 지원하는 생성형 AI를 탑재한 전자 카르테 시스템 MegaOak/iS를 제공하고 있다.
생성형 AI를 탑재한 전자 카르테 시스템 공급은 일본 최초이며 실증 결과 의료 문서를 요약할 때 걸리는 시간을 평균 47% 감축 가능했으며 표현과 정확성도 의사들로부터 높은 평가를 받고 있다.
IBM 일본법인은 시스템 개발과 운영에 생성형 AI를 활용하기 위한 솔루션을 제공하기 시작했다.
테스트 자동화를 위한 AI는 기존 테스트 자동화 시스템에 생성형 AI를 조합한 것으로 테스트 효율화 및 사양 변경에 대한 유연성을 향상시킬 수 있을 것으로 기대된다.
요건과 사양 정보 입력 후 테스트 데이터를 자동 생성해 테스트와 스크립트를 생성하고 테스트 실행, 검증까지 화면 타건 테스트 프로세스를 심리스 프로세스로 자동화함에 따라 단발성 기능 테스트나 사양 변경이 잦은 애자일 개발에서도 유연하게 적용해 효율화를 실현할 것으로 예상된다.
KDDI, 엘라이자와 글로벌 경쟁력 강화
KDDI 그룹은 도쿄(Tokyo)대학의 마쓰오(Matsuo) 연구실이 설립한 스타트업 엘라이자(Elyza)와 생성형 AI 실장을 목표로 한 업무협약을 체결했다.
엘라이자는 일본어 성능이 글로벌 모델에 필적하는 일본 최고수준의 700억파라미터 LLM을 개발하고 있으며 4월 KDDI 자회사로 편입된 후부터 KDDI와 공동으로 LLM 제공을 시작할 방침이다.
현재는 생성형 AI를 이용하려면 오픈AI의 Chat GPT, 구글(Google)의 Gemini, 앤트로픽(Anthropic)의 Claude 등 선택지가 적으나 일본기업이 개발한 생성형 AI를 널리 보급하기 위해 협력하고 있다.
KDDI는 엘라이자를 위한 계산기반을 준비하고 경영기반 구축을 지원하며 전국 법인과 연계해 비즈니스를 확대할 방침이다.
KDDI는 생성형 AI의 영역에 반드시 필요한 계산기반 분야에 중장기적으로 1000억엔을 투자할 계획이다.
양사는 기본적으로 GPU 기반 구축을 위해 투자하며, KDDI는 열린 모델을 베이스로 한 일본 최고 성능의 LLM 개발을 목표로 내세운 엘라이자와 함께 영역 특화형 LLM을 구축함으로써 생성형 AI를 활용하는 DX 지원, AI SaaS형 모델 등을 제공할 방침이다.
먼저 KDDI 그룹 내에서 활용한 후 영역을 모빌리티, 헬스케어, 금융, 리테일로 확대해 생성형 AI의 상용화를 추진할 예정이다.
EY, 통합적 처리로 가치 창조
EY스토리지&컨설팅(EY Strategy & Consulting)은 멀티모달 AI를 활용한 신규 가치 창출 지원 서비스를 제공할 예정이다.
현재는 사내 업무 작업 및 마케팅 분석에서 텍스트, 문장 등 자연언어 1개 모달로 처리하는 싱글모달 AI가 일반적으로 사용되고 있다.
반면, 멀티모달 AI는 영상, 사진, 음성 정보 등 다양한 모달을 통합된 인식공간에서 처리하며 사람과 유사한 오감과 지식을 융합해 사고하기 때문에 메가테크기업이 범용 AI를 실현할 때 사용이 가능할 것으로 기대된다.
공장 가동 최적화, 트러블 발견 및 대처, 소재 연구 출구전략 도출 등 소재 특성부터 사업 응용, 소재 연구까지 고속으로 사업성을 평가하는 유스케이스에도 적용이 예상되고 있다.
EY가 제공하는 서비스는 멀티모달 AI로 사물과 현상을 다각적이면서 구체적으로 다루면서 얻은 고찰 및 경영 컨설팅 노하우를 조합한 것으로 클라이언트의 신규 사업이나 이노베이션 창출을 지원할 수 있다.
멀티모달 AI를 통해 인간의 사고방식과 체험욕구를 파악함으로써 사업을 개발하고 대규모 시설 및 공간 설계, 신제품 설계, 마케팅 고도화, 제조업 고도화 등에 활용할 수 있을 것으로 전망되고 있다. (강)
