신경보 조개재경소식 (기자 라역단): 9월 25일, 2024 바이두운지대회가 북경에서 소집되였다.바이두 창업자 리옌훙은 지능체는 그가 가장 선호하는 AI 응용 발전 방향이라며"지능체는 PC 시대의 웹사이트, 자체 미디어 시대의 계정에 해당한다. 그것의 가장 뚜렷한 특징은 문턱이 충분히 낮지만 천장이 충분히 높아 매우 복잡하고 매우 강력한 응용을 할 수 있다. 앞으로 수백만 체급의 지능체가 출현하여 하나의 방대한 제품 생태를 형성할 것이다."
지능체를 생성하려면 AI의 인프라가 필요하다.이번 대회에서 바이두 스마트 클라우드는 각각 계산력, 모델, AI 응용을 겨냥하여 백AI 이기종 컴퓨팅 플랫폼 4.0, 천범대 모델 플랫폼 3.0 양대 AI 인프라를 전면적으로 업그레이드하고 코드 어시스턴트, 스마트 고객센터, 디지털인 3대 AI 네이티브 응용 제품을 업그레이드했다.
바이두그룹 집행부총재, 바이두지능클라우드사업군 총재 심떨은 업그레이드의 구체적인 효과와 실현의 기술원리를 상세하게 소개했다.예를 들어, 모델 훈련 단계에서 안정과 효율성은 GPU 클러스터의 수준을 측정하는"하드 지표"이며, GPU 한 장에 장애가 발생하면 클러스터 전체가 중단되고 많은 시간, 비용이 장애 복구 및 데이터 롤백에 낭비됩니다.이로부터 바이 AI 이기종 컴퓨팅 플랫폼 4.0은 이 난제를 극복하고 완카 클러스터에서 99.5% 이상의 효과적인 훈련 시간을 실현했다. 그 기술 원리는 바이 4.0이 자동으로 클러스터 상태를 선별하고 GPU 고장을 미리 예측하여 작업 부하를 적시에 이전함으로써 고장 발생 빈도를 줄일 수 있다는 것이다.
심떨은 다음과 같이 표시했다. 큰 모형 및 부대적인 계산력관리플랫폼, 모형과 응용개발플랫폼은 한창 신세대 기초시설로 급부상하고있다.