為了防止有害輸出，AI研究團(tuán)隊(duì)開發(fā)了監(jiān)控大型語言模型的工具
據(jù)Cointelegraph報(bào)道，來自人工智能公司AutoGPT、東北大學(xué)和微軟研究院的研究團(tuán)隊(duì)開發(fā)了一種監(jiān)控大型語言模型（LLMs）的工具，以防止?jié)撛诘挠泻敵霾⒆柚蛊鋱?zhí)行。研究表明，該代理足夠靈活，可以監(jiān)控現(xiàn)有的LLMs，并在有害輸出（...
工具
據(jù)Cointelegraph報(bào)道，來自人工智能公司AutoGPT、東北大學(xué)和微軟研究院的研究團(tuán)隊(duì)開發(fā)了一種監(jiān)控大型語言模型（LLMs）的工具，以防止?jié)撛诘挠泻敵霾⒆柚蛊鋱?zhí)行。研究表明，該代理足夠靈活，可以監(jiān)控現(xiàn)有的LLMs，并在有害輸出（...