Skip to content

QinKing19/WiFi-VLM-Sense

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

2 Commits
 
 
 
 

Repository files navigation

WiFi-VLM-Sense

基于 Wi-Chat(LLM Powered Wi-Fi Sensing) 的 AAOS AI 座舱乘员感知系统。 通过车内 Wi-Fi 6/6E CSI 信号,非接触式实时检测乘员姿势、动作、手势、呼吸率与心率。


感知能力

能力 说明
姿势识别 Posture 坐直 / 前倾 / 侧倾 / 低头 / 离座倾向
动作识别 Action 取物 / 转身 / 抬手 / 挥手 / 疲劳晃头
手势识别 Gesture 静态 + 动态(滑动 / 点击 / 旋转)
呼吸率 Respiration 更新周期 1 s,滑动窗 8-12 s
心率 Heart Rate 更新周期 1-2 s,滑动窗 12-20 s

系统架构(AAOS 分层)

+---------------------------------------------------------+
|  Application  CockpitBehaviorApp                        |  <- HMI 联动 / 手势控车 / 疲劳提醒
+---------------------------------------------------------+
|  Framework    WifiSenseService (AIDL)                   |  <- 权限控制 / 事件发布 / 看门狗
+---------------------------------------------------------+
|  Native       wifisense-daemon                          |  <- 预处理 / 推理管线 / LLM 纠错
|               (NNAPI / ONNX Runtime)                    |
+---------------------------------------------------------+
|  Vendor HAL   vendor.wifisense.hal                      |  <- CSI 采集 / 时间戳同步
+---------------------------------------------------------+
|  Kernel       网卡驱动 (nl80211 / CSI 扩展)              |
+---------------------------------------------------------+
|  硬件         Wi-Fi 6/6E 天线节点 x 2-4                 |  <- MIMO 2x2/4x4, 5/6 GHz
+---------------------------------------------------------+

Wi-Chat 语义推理层(贯穿 Native 层):

CSI -> 预处理 -> 时空编码器 -> 语义 token
       (seat_zone / motion / micro_vital / context)
               |
       小型指令微调 LLM(链式推理 / 语义纠错)
               |
   姿势头 | 动作头 | 手势头 | 呼吸率头 | 心率头

设计亮点

  • Wi-Chat 语义化:CSI 时空特征映射为结构化语义 token,LLM 链式推理与纠错,提升复杂干扰鲁棒性。
  • 多任务统一建模:分类(姿势/动作/手势)与回归(呼吸/心率)共享编码器,协同优化。
  • 车况上下文融合:通过 CarService 获取车速、振动等级,动态调整推理阈值。
  • 端侧实时闭环:高频路径(手势)P95 < 130 ms;含 LLM 复杂场景 < 220 ms。
  • 失效安全降级:天线故障 / 强干扰 / 低置信度均有降级策略,不误触发控制指令。
  • 隐私最小化:原始 CSI 默认不上传,日志仅记录时延与置信度分位数。

关键指标

指标 目标值
姿势 / 动作 / 手势端到端时延 P95 < 180 ms
姿势分类 F1 >= 0.90
动作分类 F1 >= 0.88
手势分类 F1 >= 0.92
呼吸率 MAE <= 1.5 rpm
心率 MAE <= 5 bpm
系统可用性 >= 99.5%

里程碑

阶段 周期 交付物
M1 4-6 周 CSI 采集链路 + 姿势识别 POC
M2 6-8 周 多任务模型 + AAOS 服务打通 + HMI 联动
M3 6-10 周 Wi-Chat 语义层 + LLM 纠错 + 实车优化
M4 4 周 量产化加固(安全 / OTA / 监控 / 回滚)

文档与图表

文档 内容
AAOS WiChat AI 座舱设计文档 完整设计方案,含 6 张 Mermaid 架构/时序/状态机图

文档内图表一览:

  • 图 5-1:AAOS 软件分层架构图(graph TB)
  • 图 5-2:模型推理数据流图(flowchart LR)
  • 图 6-1:Wi-Chat 多任务推理时序图(sequenceDiagram)
  • 图 7-1:CSI 预处理流水线(flowchart LR)
  • 图 8-1:进程与 Binder 通信图(graph LR)
  • 图 13-1:服务状态机与降级策略(stateDiagram-v2)

仓库结构

WiFi-VLM-Sense/
├── README.md
└── docs/
    └── AAOS_WiChat_AI_Cockpit_Design.md   # 完整设计文档(含 6 张 Mermaid 图)

参考

  • Wi-Chat: Large Language Model Powered Wi-Fi Sensing
  • AAOS / Android Automotive OS 官方文档
  • Wi-Fi 6/6E CSI 采集:nl80211 / 厂商扩展接口

About

基于 VLM 的 AAOS 车载 WiFi Sensing系统设计

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors