AI-управление не может преодолеть линию защиты бизнеса: от технической реализации до исполнения правил

robot
Генерация тезисов в процессе

Источник: TokenPost Оригинальный заголовок: AI 통제 없인 확산도 없다…루브릭, 기업 리스크 대응 기술에 승부수 Оригинальная ссылка: https://www.tokenpost.kr/news/ai/315080

Основные положения

Массовое применение ИИ в бизнесе сталкивается не с техническими затратами или сложностью разработки, а с недостатком эффективных систем управления рисками и надзора.

Анализ проблем

По словам руководителя отдела ИИ компании Rubrik Dev Rishi, в ходе общения примерно с 180 клиентами летом прошлого года было выявлено, что на этапе внедрения ИИ у предприятий в целом наблюдается три основные трудности:

  1. Разрыв между политикой и её реализацией: большинство компаний разработали политики и руководящие принципы по ИИ, но эти документы остаются на бумаге и не связаны с реальными системами контроля на уровне инфраструктуры.

  2. Риск потери контроля автономных систем: в отличие от ручных систем, обладающих процедурами проверки, интуитивным суждением и механизмами ответственности, системы ИИ лишены подобных средств балансировки, что может привести к хаосу в системе безопасности и управления рисками организации.

  3. Трудности с получением ROI: некоторые организации отказались от инвестиций из-за невозможности найти реальную ценность применения ИИ.

Тенденции в отрасли

Rubrik, выпустив продукты, такие как “Rubrik Agent Cloud”, стремится обеспечить предприятиям существенную видимость систем ИИ, возможности аудита и восстановления. Компания уже привлекла таких крупных клиентов, как Arm Holdings, и сосредоточила стратегический фокус на усилении контроля над агенты ИИ и полномасштабной системе аудита.

Долгосрочные перспективы

Успех ИИ в конечном итоге зависит от степени его управления и реализуемости, а не только от технических возможностей. Конкуренция в области управления ИИ в настоящее время станет ключевым разделителем в отрасли: организации, создавшие эффективные системы надзора и контроля, получат конкурентное преимущество.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 6
  • Репост
  • Поделиться
комментарий
0/400
BrokenRugsvip
· 12-19 01:29
Честно говоря, политика написана красиво, но на практике всё равно провал... Разве это не общая проблема крупных компаний? Разрыв между policy и реальностью всегда самый фатальный, и AI-управление — не исключение, одних лозунгов недостаточно. Компании действительно сталкиваются с узким местом, риск-менеджмент важнее технических препятствий. 180 клиентов — так? Тогда проблема действительно распространена, именно поэтому так трудно распространить AI.
Посмотреть ОригиналОтветить0
MissingSatsvip
· 12-18 22:19
Верно, как бы красиво ни была написана политика, она бесполезна, главное — действительно её реализовать --- Разве это не распространённая проблема для большинства компаний, когда речь идёт об управлении рисками, но на самом деле всё это делает неоднозначно --- Рубрик понял проблемные моменты этой волны, и компании давно тратили деньги на ИИ, и чего не хватает — это набора надёжных решений для управления --- 180 клиентов сообщили о проблемах... Это показывает, что этот случай действительно является распространённым, а не изолированным явлением --- Политика оторвана от реализации? Это также клише в традиционных индустриях, и ИИ становится ещё более очевидным --- Настоящее узкое место — не технологии, а организационные возможности, что вполне справедливо --- Предприятия тратят деньги на внедрение ИИ, не имея соответствующей системы риска, и такой стиль игры рано или поздно изменится --- Интересно, что управление рисками стало основой конкурентоспособности внедрения ИИ --- Рубрик нашёл хороший срез, но сможет ли он решить эти проблемы, зависит от конечного результата
Посмотреть ОригиналОтветить0
GasGrillMastervip
· 12-16 01:58
Проще говоря, это пустые разговоры, политика написана красиво, а выполнение — полное пустое Риски ИИ действительно являются слабым местом компании, технология — не проблема, а управление — самое слабое звено 180 клиентов так же падают, это говорит о том, что это не мелкая проблема Разрыв между политикой и исполнением напоминает мне дорожные карты некоторых проектов ха-ха Способность корпоративного управления действительно вызывает опасения, неудивительно, что продвижение ИИ идет так медленно Вот почему крупные компании сначала пробуют, а малые наблюдают
Посмотреть ОригиналОтветить0
MoneyBurnerSocietyvip
· 12-16 01:44
Опять старое добро... Когда компании пишут документы, они очень активны, а когда доходит до выполнения, стоят на месте. Я это очень хорошо знаю.
Посмотреть ОригиналОтветить0
GasFeeCriervip
· 12-16 01:39
哈哈,又是老问题了,政策写得漂亮执行全崩盘,这不就是大厂通病吗 --- 180家企业都这样?看来AI治理真的卡脖子了,不是技术问题反而是管理 --- Риск防线这东西说得好听,实际上企业就是想快速上线,哪管那么多呢 --- Rubrik这波在蹭热度吧,不过话说回来,这确实戳中了痛点 --- 所以最后还是得靠人工审核?那AI的优势不就白瞎了 --- 政策跟不上执行速度,永恒的矛盾啊兄弟,啥时候才能解决 --- 180家都有问题,说明这不只是个别case,确实需要新的解决方案
Посмотреть ОригиналОтветить0
airdrop_whisperervip
· 12-16 01:32
说得真没错,这就是为啥那么多大厂AI项目最后都沦为PPT方案了 政策写得再漂亮,执行层不配合啥用都没有... 这事儿在crypto里也一样,治理永远是最后一道坎 企业们花在AI营销上的钱,得花一半在风控上才对
Ответить0
  • Закрепить