目前很多 AI 系统,本质上还是在做大规模相关性学习。模型虽然很强,但依然容易受到噪声、伪相关、distribution shift 等问题影响。我们认为,想让 AI 真正变得可靠、可泛化、可推理,同时保证高效,仅仅扩大模型规模是不够的, 而需要让模型能够真正理解因果关系,学习数据背后真实的生成机制。
我们的研究方向主要围绕构建能理解因果关系的下一代智能,例如:
因果学习(Causal Representation Learning / Causal Discovery / Causal ML )
可信机器学习(Trustworthy Machine Learning)
基础模型(LLM / World Model / Multi-Agent Systems )
科学发现 (Scientific Discovery)
我们相信,关注真实的生成过程不仅能提升模型的可信度,也能让模型更高效地学习、推理与规划。我们已经在 LLM、world model、multi-agent system 等多个方向中看到因果学习的重要作用,并坚信这会是未来 AI 不可缺少的一部分。