科技信息通信部免费开放《自主AI基础模型》训练数据29种

Photo of author

By 코리안투데이 경기하남

科学技术信息通信部与韩国智能信息社会振兴院于27日在「AI Hub」网站开放了《自主AI基础模型》项目5支精英团队所取得的29种AI训练数据。数据规模约3,544万件、1.56万亿tokens(推算),韩国国内企业、研究人员及学生等全体国民均可免费下载使用。

  [코리안투데이] 科技信息通信部开放《自主AI基础模型》训练数据29种 © 장형임 기자

科学技术信息通信部(副总理兼科学技术信息通信部长官裴京勋)与韩国智能信息社会振兴院(院长金亨哲)于27日表示,将把《自主AI基础模型》项目5支精英团队在第一阶段评估过程中取得的共计29种数据公开于AI Hub网站(aihub.or.kr)。

开放规模约为3,544万件,换算成tokens约达1.56万亿tokens(推算)。这一体量理论上可用于训练约70~80B级别的大型AI模型。参与的精英团队以联合体主管机构为准,包括NAVER Cloud、Upstage、SK电信、NC AI、LG经营开发院AI研究院(LG AI研究院)等5家。

此次数据是各精英团队根据各自开发战略进行规划,以2025年数据构建与加工预算150亿韩元取得的,内容涵盖预训练用大规模数据集,以及影像、语音等多模态数据,乃至为确保安全性而准备的红队测试(red teaming)数据,构成十分广泛。

分团队来看,NAVER Cloud构建了公开影像234万件、广播影像52万件,以及基于影像片段的文本1,550万件和语音问答1,200万件。文本由以句子为单位描述场景的字幕等构成,可用于训练AI模型的影像理解能力及图像生成模型。

Upstage构建了规模达1万亿tokens的大规模预训练数据和50万件的后训练数据。预训练数据集可用于从零开始(from scratch)训练大规模AI模型,后训练数据则可用于推理、判断、执行等AI智能体的开发。

SK电信构建了数学、科学、法律等专业领域的高难度多步推理数据、语音与图像后训练用数据,以及反映韩国国内法令和韩国社会普遍价值观的韩国型红队测试数据约1万件。这些数据可用于强化AI模型的实务解决能力,提升其安全性与可信度。

NC AI以制造领域的技术文档和民怨咨询语音等现场实际数据为基础,构建了长文本理解、分步推理、多轮对话、问答、多模态等LLM核心能力数据7种。LG AI研究院在韩国国内50个真实家庭环境中拍摄了50种以上的家务活动,取得17万个以上的影像片段,并对物体、分割、姿态、语境信息进行多层标注,构建了面向韩国家庭环境优化的物理AI(physical AI)多模态数据集。

在数据开放之前,NIA与韩国信息通信技术协会(会长孙升铉)在完成第一阶段评估后,从各精英团队获取全部数据,进行了质量验证、个人信息与有害性验证、排除受许可限制数据等处理。根据项目公告的参与条件,须开放所取得数据的50%以上,其中NAVER Cloud、Upstage、SK电信、NC AI决定开放经过质量验证的全部数据,LG AI研究院则在遵守义务开放量的前提下,通过统计方式甄选并开放公开对象数据。

公开的29种数据,凡韩国国民均可在AI Hub的『自主AI模型数据』栏目按团队、按种类检索并免费下载。部分数据可在安全有保障的在线环境『安心区(安心存)』经单独申请后使用。这对于一直以来在取得大规模训练数据方面遇到困难的中小企业、研究人员和学生而言,有望成为切实的开发基础。

科技信息通信部表示,今后在第二阶段评估过程中构建的数据也将在通过质量验证后予以开放。人工智能政策室室长金庚满表示:「《自主AI基础模型》项目不仅仅是开发AI模型,更在于通过开发过程中积累的经验与诀窍,为AI生态系统整体的质的成长作出贡献,这一点意义重大」,并称「今日开放的数据凝聚了精英团队的AI训练战略,是宝贵的资产,将成为引领AI生态系统成长与自立能力强化的基石」。

지역 홍보대사 신청 기자양성과정 신청 코리안투데이 지부장 신청 코리안투데이 인천강화코리안브랜드대상 신청 최고경영인대상 신청 소비자만족도대상 신청

📰 기사 원문 보기

<저작권자 ⓒ 코리안투데이(The Korean Today) 무단전재 및 재배포 금지>

WIA Code — 이 기사 링크
인쇄용 · WIA Code 스캐너로 비추면 인터넷 없이 발행 확인
기사 바로 열기 ·
⇓ PNG 다운로드

댓글 남기기

WIA Family · 88개 언어 무료 학습 게임 — WIAverse →