동영상 서비스인 아베마(ABEMA)를 운영하는 IT기업 ‘사이버 에이전트’는 일본어에 특화된 대규모 언어 모델(LLM)을 공개했다. 이 기술을 챗GPT와 조합하면 일본어로 된 선전 문장을 자동 생성할 수 있다. 

대형 통신 회사, NTT는 특정 분야에 특화된 소형 경량 A I를 법인 대상으로 제공할 방침이라고 하며, 커뮤니케이션 앱을 제공하는 IT 대기업 LINE야후도 한국의 IT업체 네이버와 공동으로 생성형 AI 하이퍼클로바X를 내놓았다. 

소프트뱅크 그룹도 생성형 AI 개발에 주력하고 있다. 200억 엔을 들여서 슈퍼 컴퓨터를 정비하고, 2024년 안에 독자적인 생성형 AI를 선보일 계획이다.

이렇게 생성형 AI 개발 경쟁이 치열해지는 가운데 일본 IT업계의 터줏대감이자 A I 트리오라 할 수 있는 후지쓰, NEC, 히타치는 무엇을 하고 있을까.

진라이를 내세운 후지쓰

도쿄 미나토구 히가시신바시에 본사를 둔 후지쓰는 연결매출 3조 7천억 엔(32조원), 12만 4천 명의 종업원을 가진 일본의 대표적인 전자업체다. 이화학연구소와 함께 슈퍼 컴퓨터 ‘후가쿠’(富岳)를 개발하여, 2020년 기준 세계에서 가장 빠른 계산 속도를 달성한 것으로 잘 알려져 있다.

후지쓰는 2015년에 AI 관련 기술·제품·서비스를 모두 ‘진라이’(迅雷, 맹렬한 우렛소리라는 뜻)라는 이름으로 통합하고, 2017년부터 ① 딥 러닝 기반의 클라우드 서비스, ② 딥 러닝 전용 서버와 스토리지, ③ 소프트웨어로 구성된 직접 설치 시스템 등의 도입 지원 및 운용 등의 서비스를 제공했다.

이어 2019년부터는 AI를 활용하여 업무의 디지털 혁신을 지원하는 진라이 솔루션 2종을 개발하고 2019년 5월부터 판매를 시작했다.

그런데 후지쓰는 여기서 큰 벽에 부딪혔다. AI 부문에서는 속속 혁신적인 신기술이 개발되어, 제조·소매·금융·의료등 다양한 업종에 적용하기 위한 노력이 이어졌지만 실제 운용까지는 이르지 못하는 경우가 많아 아직 사용자의 신뢰를 얻지 못하고 있는 상태였다. 따라서 AI가 비즈니스에 실제 유용하다는 것을 증명해 줄 개념 증명(Proof of Concept, 줄여서 PoC)이 필요했다. 그런데 이 PoC를 제대로 수행하기 위해서는 하드웨어를 엄청나게 투입하는 동시에 첨단 AI 지식을 가진 인재도 필요한데 이 두 가지 모두를 충족하기란 결코 쉽지 않다. 사이클이 돌아가기 위해서는 시간이 걸린다는 이야기다. 

그런 가운데 후지쓰는 2023년 4월부터 PoC 등 첨단 기술 시험을 신속하게 실행할 수 있는 새로운 AI기술 플랫폼 ‘후지쓰 고즈치’(Fujitsu Kozuchi)를 공개했다. 고즈치는 ‘작은 망치’라는 의미로 필요한 작업에 빠르게 사용할 수 있는 도구라는 의미에서 이 플랫폼에 어울리는 이름이다. 이 기술에 대해 후지쓰 홍보실은 다음과 같이 설명했다. 

“고즈치 이전의 각종 서비스는 제품이 완성된 이후에 제공되었다. 그러나 AI 분야에서는 하루가 다르게 새로운 기술이 등장하고 있다. 그 속도를 따라잡기 위해서 후지쓰는 AI 기술의 개발이 최종 완료되기 전에 고객이 사용해 볼 수 있도록 고즈치를 제공하고 있다. 고즈치에는 후지쓰가 개발한 AI 기술(AI 코어 엔진)이나 운영체제, 타사 기술 등을 조합한 AI 이노베이션 컴포넌트가 탑재되어 있기 때문에 시스템을 고객과 함께 개선해 나갈 수 있다.” 

후지쓰는 2023년 6월에 이미 미즈호 파이낸셜 그룹과 공동으로 시스템 개발·보수에 AI를 사용하는것을 목표로 한 실증 실험을 시작한다고 발표했다. 시스템 개발 및 유지 보수에 관련된 품질, 장애 발생 시 신속하게 복구하는 능력의 향상을 노린 것으로 대상은 미즈호 그룹의 회계 시스템인 ‘미노리’(이것 역시 후지쓰가 개발한 것이다) 가운데 정기예금 애플리케이션과 인프라 기반의 설계에관련된 것이었다. 후지쓰가 생성형 AI를 독자적으로 개발해서 ‘후지쓰 고즈치’를 통해서 미즈호 그룹에 제공하는 식이다.

이 외에도 후지쓰는 도쿄공업대학, 도호쿠대학, 이화학연구소와 함께 슈퍼 컴퓨터 후가쿠를 활용한 LLM 개발을 추진하고 있는데, 2024년에는 미즈호 그룹의 시스템에 적용할 계획이다.

세계 정상급 얼굴 인증 시스템으로 승부하는 NEC

NEC는 연결매출 3조 3천억 엔, 직원 수 11만 8천 명의 종합 전기 전자기기 제조업체다. 반세기 이상에 걸쳐서 음성 인식, 화상·영상 인식, 언어 의미 이해, 기계 학습, 예측·전조 감지, 최적 계획·제어와 같은 AI 기술을 착실하게 발전시켜 왔다.

그리고 2016년 7월에 최첨단 AI기술을 ‘NEC the WISE’라는 브랜드로 집대성하여 세계 시장에 내놓았다. 그중에서 주목되는 것이 세계 톱 클래스의 AI 활용 얼굴 인증 시스템이다. NEC가 얼굴 인식 기술의 연구 개발에 나선 것은 1989년이다. 문자 인식 연구에서 확립한 패턴 인식 기술을 응용한 것이다. 2002년부터는 얼굴 인증 A I엔진 ‘네오페이스’(NeoFace)의 제품화를 시작했다.

그 후 2009년부터 2022년 사이에 열린 미국 국립 표준 기술 연구소(NIST: National Institute of Standards andTechnology)의 콘테스트 등에서 7차례 우승하면서 얼굴 인증의 정밀도와 고속 알고리즘에서 높은 평가를 받았다. 현재 나리타 공항의 얼굴 인증 시스템에 이미 활용되고 있으며, 2024년 봄부터는 리뉴얼된 세븐 은행의 ATM에도 탑재된다.

NEC는 2023년부터 일본 기업을 대상으로 더욱 공세에 나섰다. 일본 고객의 요구에 맞춰 LLM의 라이선스 제공이나 일본 시장의 요구에 맞춘 전용 하드웨어, 소프트웨어, 컨설팅 서비스 등을 제공하는 ‘NEC 생성형 AI 서비스’로 시장 공략에 나선 것이다.

NEC는 이 서비스를 다음과 같이 설명했다. “생성형 AI 분야에서는 최근 챗GPT가 2022년 11월 서비스를 제공하기 시작한 이후 2개월 만에 1억 사용자를 돌파하는 등 다양한 언어 모델을 활용한 업무 혁신이 이루어지고 있어 시장의 큰 주목을 받고 있다. 한편 생성형 AI의 활용이라는 면에서는 정보 유출이나 해킹 취약성 등에 관련된 보안 문제, 답변의 부정확성이나 시스템 안정성 등에 관한 문제가 아직 미해결로 남아 있다. 또 기업에서의 이용·활용에 대해서는 기업 내에 축적된 지식의 모델화나, 기업 내의 이용 촉진 체제의 정비 등, 번역이나 요약을 넘어, 보다 본질적인 용도로 활용하는 기획이 필요하다.”

NEC는 직접 활용 사례를 보여준다는 의미에서 2023년 5월부터 생성형 AI를 사내 업무에 적용하기 시작했다. 그리고는 2주 만에 AI를 사내 채팅이나 웹 회의에서 활용하는 등 전사적인 AI 근무환경을 구현해 냈다. 그 결과 3만 명이 하루 약 1만 회에 가깝게 AI를 활용할 수 있었다. 그 결과, 시스템 개발 시 자료 작성 시간의 50% 삭감, 회의록 작성 시간 평균 30분에서 5분으로 단축, 사내 소스 코드 작성 업무의 효율화로 작업시간 80% 단축 등의 성과가 나오기 시작했다.

더 나아가 NEC는 자사의 기술과 고객의 지식을 조합해 고객과 함께 고객용 모델 작성이나 LLM 활용을 위한 소프트웨어 정비, 조직의 발족 등을 포괄적으로 지원하는 고객용 프로그램 ‘NEC 생성형 AI 고급 프로그램’(NEC GenerativeAI Advanced Customer Program)을 약 10개의 기업·대학과 함께 시작했다. 프롬프트 엔지니어(생성형 AI가 보다 정확한 응답을 내놓을 수 있도록 지시를 구성하는 기술자), 컨설턴트, 보안 기술자 등의 전문가로 구성된 전문가 집단 ‘NEC 생성형 AI 허브’(NEC Generative AI Hub)를 CDO(Chief Digital Officer) 바로 아래 신설하여 고객의 요구에 대응해 나간다는 계획이다. NEC는 생성형 AI 관련 사업으로 향후 3년간 약 500억 엔의 매출을 목표로 하고 있다.

루마다에 전력투구하는 히타치

히타치 제작소는 연결매출액 10조 8천억 엔, 종업원 수로는 32만 명을 보유한 세계 유수의 종합 전기 전자기기 제조업체로 종업원 수로는 토요타에 이어 일본 2위의 거대 기업이다.히타치는 전력, 제조업, 유통업, 금융업, 철도, 교통, 물 등 폭넓은 분야에서 사업을 하고 있으며 IT도 주력 업종 중 하나다. 

히타치의 독자적인 AI ‘히타치 AI 테크놀로지/H’는 고객의 데이터를 분석해 적절한 솔루션을 제공하는 기술이다. 폭넓은 목표에 유연하게 대응할 수 있고, 데이터를 분석하여 1백만 개가 넘는 가설을 자동으로 생성, 중요한 요인을 도출하며, 이미 제시된 옵션에서 최적의 선택을 가려낼 수 있는 기능이 있다. 

또한 음성인식 분야에서는 콜센터 등에서 수집되는 고객의 음성 데이터를 업무 데이터와 조합해 과제 해결을 지원하는 ‘음성 디지털 솔루션’, 음성 데이터를 가지고 정확하게 텍스트로 옮겨주는 ‘디지털 대화 음성 녹취 서비스’도 제공하고 있다. 

히타치가 이 분야에서 특히 강점이라고 할 수 있는 것은 이미 2016년부터 루마다(Lumada)라는 AI 기반 비즈니스 솔루션 회사를 설립하고 그룹의 역량을 꾸준히 모아가면서 매출을 성장시키고 있다는 점이다. 현재 루마다 솔루션은 200여 가지가 넘고, 계약 수는 1,200여 건이 넘는 것으로 알려져 있다.

히타치는 2021년에 미국의 소프트웨어 개발업체 글로벌로직(GlobalLogic)을 96억 달러에 인수하여 해외에서의 IT 솔루션 판매에도 더욱 힘을 쓰는 모양새다. 히타치의 IT 부문 매출은 그룹 전체 연결 매출의 4분의 1 정도이지만 영업이익은 전체의 절반에 육박하기 때문에 히타치가 앞으로도 더욱 더 루마다와 관련 비즈니스에 전력투구할 것으로 보인다. 그 일환으로 히타치는 2023년 5월, ‘생성형 AI센터’를 새로 설립하고, 자사 기술과 챗GPT 등 해외의 생성형 AI를 조합한 독자적인 A I를 개발해 기존 사업에 활용하겠다고 발표했다.

AI 자체가 미완의 기술인 만큼 향후 어디에서 어떤 돌파구가 열릴지 지금으로서는 알 수 없다. 다만 일본에서 어떤 혁신이 나타난다면 그것은 결코 이 AI 트리오와 무관할 수는 없을 것이다