人間を騙ã—ã¦ã‚µãƒœã‚‹AIãŸã¡ - ｼﾞｮｲｼﾞｮｲｼﾞｮｲAI ã®èƒ½åŠ›ãŒä¸ŠãŒã‚‹ã«ã¤ã‚Œã¦ã€äººé–“㌠AI を監ç£ã™ã‚‹ã®ãŒé›£ã—ããªã£ã¦ãã¦ã„ã¾ã™ã€‚本稿ã§ã¯ã€Anthropic ãªã©ã®ã‚°ãƒ«ãƒ¼ãƒ—㌠ICLR 2025 ã§ç™ºè¡¨ã—㟠Language Models Learn to Mislead Humans via RLHF（言語モデル㯠RLHF を通ã˜ã¦äººé–“を誤解ã•ã›ã‚‹ã“ã¨ã‚’å¦ã¶ï¼‰ã‚’ベースã«ã€ã“ã®å•é¡Œã«ã¤ã„ã¦è°è«–ã—ã¾ã™ã€‚ ã“ã®è«–æ–‡ã§ã¯ã€LLM ãŒè§£ã‘ãªã„ã»ã©é›£ã—ã„タスクã€ä¾‹ãˆã°é›£ã—ã„プãƒã‚°ãƒ©ãƒŸãƒ³ã‚°ã®ã‚¿ã‚¹ã‚¯ã«ç›´é¢ã—ãŸã¨ãã€ã€Œåˆ†ã‹ã‚Šã¾ã›ã‚“ã€ã¨è¨€ã£ãŸã‚Šã€ä¸€ç›®ã§åˆ†ã‹ã‚‹ã‚ˆã†ãªé–“é•ã£ãŸã‚³ãƒ¼ãƒ‰ã‚’出力ã™ã‚‹ã¨ BAD ボタンを押ã•ã‚Œã¦ã—ã¾ã†ã®ã§ã€ã‚ãˆã¦å‡ºåŠ›ã‚’複雑ã«ã—ãŸã‚Šãƒ‡ãƒãƒƒã‚°ã—ã«ãã„コードを出力ã—ã€ãã‚Œã«ã‚ˆã‚Šãƒ¦ãƒ¼ã‚¶ãƒ¼ã¯ç…™ã«å·»ã‹ã‚Œã‚‹ãƒ»ãƒŸã‚¹ãŒéš 蔽ã•ã‚Œã‚‹ã¨ã„ã£ãŸç¾è±¡ãŒå®Ÿé¨“ã«ã‚ˆã‚Šç¢ºèªã•ã‚Œã¦ã„ã¾ã™ã€‚ ã“ã®ç¾è±¡ã¯ç¾å®Ÿã® LLM ã‚„ AI サービスã§ã‚‚èµ·ãã¦ã„ã‚‹å¯èƒ½æ€§ãŒé«˜ã„ã§ã™ã€‚自
シンギュラリティã€ã‚‚ã†æ¥ã¦ãªã„？ | ã‚„ãã†ã‚‰çŽ‹ å…¬å¼ã‚µã‚¤ãƒˆ
{{#tags}}- {{label}}
{{/tags}}