【每日开源】【gods-eye-view】用大模型自动分析视频,生成带时间轴的事件报告。

20 / 35

今天刷到一个挺有意思的项目,来自 GitHub 上 bilawalsidhu 的 gods-eye-view。名字听起来很玄乎,其实干的事儿挺实在:让大模型帮你 “看” 视频,然后自动写出一份带时间轴的事件报告。

简单说,你丢给它一个视频文件,它会先拆成帧和音频,然后用多模态模型(比如 GPT-4V)逐段分析画面里发生了什么,再结合音频转写的内容,最后生成一份结构化的文字报告。报告里会按时间顺序列出关键事件,比如 “00:15 一个人走进房间,手里拿着箱子”、“01:02 画面切换到户外街道”。

我看了下 README,它的工作流大致是:

  1. 视频分帧 + 音频提取
  2. 对每帧或关键帧用视觉模型描述场景
  3. 音频转文字,跟画面描述对齐
  4. 汇总成时间轴报告,输出 markdown 或 JSON

这玩意儿有啥用?我第一反应是监控视频的快速摘要——比如安防摄像头几个小时的录像,人根本看不完,但让模型跑一遍,几分钟就能出一份 “几点几分发生了什么事” 的清单。另外像会议录像、教学视频、甚至个人 vlog 的存档整理,都能用上。

不过也得说点实在的:这项目目前更像一个概念验证,依赖外部大模型 API,跑长视频成本不低,而且逐帧分析会有信息丢失(比如快速动作、画面切换的细节)。但思路很对——把 “看视频” 这件事拆成 “看帧 + 听声 + 写总结” 的流水线,以后模型便宜了、推理快了,这绝对是个刚需工具。

如果你对多模态应用感兴趣,或者手头有大量视频需要整理,值得克隆下来跑跑看。作者代码写得挺干净,扩展性也不错,换个模型、加个输出格式都方便。

就酱,项目地址自己搜 bilawalsidhu/gods-eye-view 吧。

项目地址:https://github.com/bilawalsidhu/gods-eye-view

  • Cyrus #1 回复

    逐帧分析成本确实顶不住,感觉实际用起来还是得抽关键帧,不然一小时视频能跑破产

  • 安防那种几个小时的黑白夜视录像,画质糊得不行,模型能看懂吗

  • Dora #3 回复

    我比较好奇输出 JSON 的话时间轴精度能到多少,秒级还是只能到片段级

  • maven #4 回复

    说实话我更想知道它支不支持本地部署的模型,全走 API 有点不放心

  • Adel #5 回复

    多模态应用现在就是 demo 满天飞,能真正跑起来省人工的不多,这个算一个

  • 别光看监控啊,vlog 存档整理我觉得才是真需求,自己拍的视频回头根本懒得剪

  • vedaF #7 回复

    这种项目最大的价值是把流水线搭好了,换模型换输出格式都方便,抄作业神器

  • 作者代码干净这点我信,看 README 的工作流思路就很清晰,扩展点留得也不错

  • 音频转写跟画面描述对齐这块怎么做的啊,有没有大佬看过源码讲讲

  • 会议录像整理这个用途我觉得比监控还实用,开完会直接出一份时间轴纪要就爽了

  • 这个思路确实挺对的,把视频拆成看帧 + 听声 + 写总结,感觉以后这种工具会越来越多

  • 名字取得挺唬人的哈哈哈,gods-eye-view,我还以为是啥游戏引擎

  • 我手头正好有一堆教学视频要整理,准备克隆下来试试水

  • Ciara #14 回复

    之前自己用 GPT-4V 试过几张截图做描述,效果还行,但连续视频对齐时间轴这块确实麻烦

  • Lowen #15 回复

    快速动作和画面切换丢细节这个确实是个坑,模型看单帧根本不知道前后发生了啥

  • grainne #16 回复

    监控视频摘要这个场景太刚需了,我家楼下物业看录像全靠人快进,眼睛都看花

  • ulric #17 回复

    先收藏了,等周末有空跑个短视频试试,回来给大家汇报下效果

  • Rhea #18 回复

    信息丢失那点其实可以加个关键帧密度参数让用户自己调,不知道作者有没有留这个口子

  • 等模型便宜了这玩意真就是刚需,现在属于是提前布局了

  • 想问下跑一个十分钟的视频大概要花多少钱的 API 费用啊,有点心动但又怕烧钱

发起回帖(20)