ImpactLLM
ImpactLLM是一个用于估算LLM环境足迹的开放工具。
该项目被设计为一个透明的筛选工具,而不是一个黑匣子评分。它以科技文献中公布的指标为基础,将每个估计值与其来源联系起来,使假设可见,并支持可追溯、可审计的计算逻辑。
此存储库包含什么
此Git存储库版本控制ImpactLLM的开放软件和数据堆栈:
ImpactLLM/:开放数据集、本地HTTP API、MCP服务器、web计算接口、估计逻辑
仅限单独的本地 ImpactLLM-paper/ 工作区可能位于手稿工作的存储库旁边,但它被有意排除在Git版本控制之外。
ImpactLLM适用于:
- 探索LLMs环境影响的源支持数据
- 对用途、特征或推理场景进行可比估计
- 记录计算中使用的假设、系统边界和国家因素
- 支持软件设计、研究和决策讨论
定位
ImpactLLM估算以研究为导向,旨在为决策提供支持。他们不会机械地将数据从一张纸复制到另一张纸上:能源从有记录的锚中保留,然后根据与所选国家背景相关的电力结构重新计算碳。该工具的价值恰恰来自这样一个事实,即假设仍然是可检查的、有争议的,并且与来源有关。
我们在负责任的人工智能方面的工作强调了方法论的严谨性、可追溯性和现实世界中的决策支持。它结合了科学研究、产品设计和运营部署,使人工智能系统更加透明、更负责任,在实践中更有用。
快速链接
- 演示:
https://impactllm.eu/ - 公共文件PDF:
https://impactllm.eu/downloads/ImpactLLM_paper.pdf(Transparent Screening for LLM Inference and Training Impacts) - GitHub存储库:
https://github.com/apachot/ImpactLLM
开始使用
要使用软件栈,请执行以下操作:
技术概述
该项目结合了:
- 地方文献衍生数据语料库
- 用于查询记录和估计量的本地HTTP API
- 用于与兼容代理和工具集成的MCP服务器
- 用于描述用例并获得结构化估计的web界面
本地执行主要依赖于Python 3。OpenAI密钥只需要用于web界面中的自然语言解析。
许可证
此程序是自由软件:您可以根据 通用公共许可证 由自由软件基金会发布的许可证版本3,或(由您选择)任何更高版本。
分发此程序是希望它有用,但不提供任何保证;甚至没有对适销性或特定用途适用性的暗示保证。有关更多详细信息,请参阅GNU通用公共许可证。
您应该已经收到了GNU通用公共许可证的副本以及此程序。如果没有,请参阅 .
