[ad_1]
이 오디오는 자동으로 생성됩니다. 의견이 있으면 알려주시기 바랍니다.
기술의 컴퓨팅 요구가 채택 야망에 도전을 제기함에 따라 CIO는 AI 채택을 용이하게 하기 위해 엔터프라이즈 데이터 시스템 현대화에 두 배로 노력했습니다.
Databricks가 의뢰한 MIT Technology Review 보고서에 따르면 대부분의 기술 경영진은 조직이 내년에 데이터 인프라 및 AI 채택에 대한 투자를 늘릴 것으로 예상합니다. 보고서에서 조사한 600명의 CIO 및 IT 리더 모두는 데이터 및 AI 예산이 내년에 증가할 것이며 거의 절반이 25% 이상 증가할 것으로 예상했습니다.
Databricks의 CIO인 Naveen Zutshi는 생성적 AI 채택에 대한 초기 진입 장벽은 낮지만 기술을 생산하는 데 대한 장벽은 여전히 높다고 말했습니다. Zutshi는 “지금은 더 깊이 파고들면 더 많은 실험과 더 적은 생산 사용 사례를 발견할 수 있습니다.”라고 말했습니다.
열정적인 조직이 생성적 AI 비즈니스 애플리케이션 개발을 통해 파일럿 프로그램과 작업 혁신 팀을 승인함에 따라 CIO는 새로운 기술, 즉 데이터를 구동하는 연료를 개선하고 있습니다.
아키텍처를 간소화하고, 사일로를 해제하고, 서로 다른 소스를 통합하려는 노력에도 불구하고 데이터 생태계는 시간이 지남에 따라 엔트로피에 굴복하는 경우가 많습니다.
Zutshi는 “조직이 복잡해지기를 원하는 것은 아닙니다.”라고 말했습니다. “레거시 시스템이 있었고 시간이 지남에 따라 그러한 복잡성을 초래하는 결정이 내려졌기 때문에 복잡해졌습니다. 긴장을 푸는 게 쉽지 않아요.”
AI 전략의 하이브리드화
데이터 관점에서 클라우드 마켓플레이스 및 SaaS 솔루션을 통해 사용 가능한 기성 모델을 실험하는 것은 비교적 쉬운 일입니다. 그러나 대부분의 조직은 내부 데이터에 대한 모델을 조정하고 교육하는 동시에 즉각적인 사용 사례에 사용할 수 있는 도구를 활용하는 하이브리드 AI 전략을 선호한다고 보고서는 밝혔습니다.
응답자의 절반 이상(58%)이 기술 구축과 구매 모두에 열려 있다고 답했습니다. 10명 중 1명 이상이 자신의 도구를 엔지니어링하는 데만 집중하는 반면, 10명 중 3명만이 상용 모델에 만족했습니다.
Databricks에는 고객을 위한 기본 모델을 구축하는 팀이 있습니다. 또한 Zutshi에 따르면 회사는 주로 고객 지원, 계약 검토 및 직무 설명을 지원하기 위해 내부 챗봇을 위한 기업 사용 사례에 사용 가능한 기술을 활용하고 있습니다.
Zutshi는 “기반 모델을 구축하는 데는 수십만 또는 수백만 달러가 소요되며 소수의 회사만이 이를 수행할 것입니다.”라고 말했습니다.
대부분의 조직은 내부 데이터를 사용하여 특정 작업에 대한 기성 모델을 조정하는 중간 경로를 택합니다. 검색 증강 생성으로 알려진 프로세스인 LLM 외부 데이터를 제공하는 주요 수단은 위험과 기회를 창출합니다.
Zutshi는 Confluence 및 Google Drive와 같은 플랫폼이나 PDF 형식에 저장된 정보를 가리키며 “회사는 거의 사용하지 않는 어딘가에 구조화되지 않은 데이터를 많이 저장하고 있습니다.”라고 말했습니다.
생성적 AI는 이러한 소스에서 데이터를 수집하여 이전에 묻혀 있던 통찰력을 표면화할 수 있습니다. 그러나 대부분의 조직은 구조화된 데이터베이스에 먼저 넣지 않고 구조화되지 않은 데이터를 사용하는 아이디어에 익숙하지 않기 때문에 학습 곡선이 있을 것이라고 Zutshi는 말했습니다.
데이터 우선
생성적 AI의 기반을 마련하려면 선행 투자가 필요합니다.
Zutshi는 “내륙에 있는 데이터를 옮기는 것만으로도 꽤 엄청난 작업이 될 수 있습니다.”라고 말했습니다. “생성 AI가 있다고 해서 이러한 문제는 사라지지 않습니다.”
기술과 전략이 빠르게 발전함에 따라 상대적으로 데이터 운영에 적극적으로 참여한 조직이라도 수정이 필요할 수 있습니다.
금융 서비스 회사인 Razorpay의 CTO이자 엔지니어링 책임자인 Murali Brahmadesam은 보고서에서 “5년 전에는 작동했던 데이터 인프라가 지금은 작동하지 않습니다.”라고 말했습니다.
Zutshi는 5년 전 Palo Alto Networks에서 CIO로 재직할 당시 온프레미스 데이터베이스와 클라우드 기반 데이터 레이크가 결합된 데이터 웨어하우스를 보유하고 있었다고 말했습니다. 데이터 과학 및 분석 팀에 대한 데이터 중복 및 별도의 액세스 규칙은 운영 복잡성을 증가시켰습니다.
“몇 년 전까지만 해도 우리는 호숫가에 대해 이야기하지 않았습니다.”라고 Zutshi는 말했습니다. “우리는 데이터 웨어하우스를 사용하고 있었는데 그들은 데이터를 별도의 사일로에 보관하는 경향이 있었습니다. 우리는 그 패러다임을 기반으로 시스템을 구축했고 이제 그 패러다임이 바뀌었습니다.”
비즈니스에 가치를 보여주는 점진적인 마이그레이션 및 통합은 저항을 제거할 수 있습니다.
Zutshi는 “CEO에게 향후 18개월 동안 데이터 기반을 수정하는 데 시간을 할애할 예정이지만 즉시 수익이 돌아오지 않을 것이라고 말한다면 웃음을 터뜨릴 것입니다”라고 Zutshi는 말했습니다.
생성적 AI에 대한 열정은 CIO에게 시간을 벌어줄 수도 있습니다. KPMG가 1,300명의 CEO를 대상으로 실시한 설문조사에 따르면 대부분의 CEO는 ROI가 내일이나 모레가 아닌 3~5년 안에 도달할 것으로 예상합니다.
