代价敏感大间隔分布学习机 cost-sensitive large margin distribution machine.pdfVIP

ＤＯＩ：１０ ．７５４４/ｉｓｓｎ１０００‐１２３９ ．２０１６ Ｊｏｕｒｎａｌｏｆ Ｃｏｍｐｕｔｅｒ Ｒｅｓｅａｒｃｈ ａｎｄＤｅｖｅｌｏｐｍｅｎｔ ５３（９）：１９６４ １９７０ ，２０１６ 　 　 　 （（）　 　 ２１００２３） （（）　 　 ２１００２３） （ｚｈｏｕｙｈ＠ ｌａｍｄａ．ｎｊｕ．ｅｄｕ．ｃｎ） Ｃｏｓｔ‐ＳｅｎｓｉｔｉｖｅＬａｒｇｅＭａｒｇｉｎＤｉｓｔｒｉｂｕｔｉｏｎＭａｃｈｉｎｅ Ｚｈｏｕ Ｙｕｈａｎｇ ａｎｄＺｈｏｕＺｈｉｈｕａ （ （ ）， ２１００２３） （ ， ２１００２３） Ａｂｓｔｒａｃｔ　 Ｉｎ ｍａｎｙ ｒｅａｌ ｗｏｒｌｄ ａｐｐｌｉｃａｔｉｏｎｓ， ｄｉｆｆｅｒｅｎｔ ｔｙｐｅｓ ｏｆ ｍｉｓｃｌａｓｓｉｆｉｃａｔｉｏｎ ｏｆｔｅｎ ｓｕｆｆｅｒ ｆｒｏｍ ｄｉｆｆｅｒｅｎｔ ｌｏｓｓｅｓ，ｗｈｉｃｈ ｃａｎ ｂｅ ｄｅｓｃｒｉｂｅｄ ｂｙ ｃｏｓｔｓ．Ｃｏｓｔ‐ｓｅｎｓｉｔｉｖｅ ｌｅａｒｎｉｎｇ ｔｒｉｅｓ ｔｏ ｍｉｎｉｍｉｚｅ ｔｈｅ ｔｏｔａｌ ｃｏｓｔ ｒａｔｈｅｒ ｔｈａｎｍｉｎｉｍｉｚｅｔｈｅｅｒｒｏｒ ｒａｔｅ．Ｄｕｒｉｎｇ ｔｈｅｐａｓｔｆｅｗ ｙｅａｒｓ，ｍａｎｙ ｅｆｆｏｒｔｓｈａｖｅｂｅｅｎｄｅｖｏｔｅｄｔｏ ｃｏｓｔ‐ｓｅｎｓｉｔｉｖｅ ｌｅａｒｎｉｎｇ． Ｔｈｅ ｂａｓｉｃ ｓｔｒａｔｅｇｙ ｆｏｒ ｃｏｓｔ‐ｓｅｎｓｉｔｉｖｅ ｌｅａｒｎｉｎｇ ｉｓ ｒｅｓｃａｌｉｎｇ， ｗｈｉｃｈ ｔｒｉｅｓ ｔｏ ｒｅｂａｌａｎｃｅ ｔｈｅｃｌａｓｓｅｓ ｓｏ ｔｈａｔ ｔｈｅｉｎｆｌｕｅｎｃｅｏｆ ｄｉｆｆｅｒｅｎｔ ｃｌａｓｓｅｓ ｉｓ ｐｒｏｐｏｒｔｉｏｎａｌ ｔｏ ｔｈｅｉｒ ｃｏｓｔ，ａｎｄ ｉｔ ｈａｓ ｂｅｅｎ ｒｅａｌｉｚｅｄ ｉｎ ｄｉｆｆｅｒｅｎｔ ｗａｙｓ ｓｕｃｈ ａｓ ａｓｓｉｇｎｉｎｇ ｄｉｆｆｅｒｅｎｔ ｗｅｉｇｈｔｓ ｔｏ ｔｒａｉｎｉｎｇ ｅｘａｍｐｌｅｓ， ｒｅｓａｍｐｌｉｎｇ ｔｈｅ ｔｒａｉｎｉｎｇ ｅｘａｍｐｌｅｓ， ｍｏｖｉｎｇ ｔｈｅ ｄｅｃｉｓｉｏｎ ｔｈｒｅｓｈｏｌｄｓ， ｅｔｃ． Ｍｏｒｅｏｖｅｒ， ｒｅｓｅａｒｃｈｅｒｓ ｉｎｔｅｇｒａｔｅｄ ｃｏｓｔ‐ ｓｅｎｓｉｔｉｖｉｔｙ ｉｎｔｏ ｓｏｍｅ ｓｐｅｃｉｆｉｃ ｍｅｔｈｏｄｓ， ａｎｄ ｐｒｏｐｏｓｅｄ ａｌｔｅｒｎａｔｉｖｅ ｅｍｂｅｄｄｅｄ ａｐｐｒｏａｃｈｅｓ ｓｕｃｈ ａｓ ＣＳ‐ ＳＶＭ ． Ｉｎ ｔｈｉｓ ｐａｐｅｒ， ｗｅ ｐｒｏｐｏｓｅ ｔｈｅ ＣＳ‐ＬＤＭ （ｃｏｓｔ‐ｓｅｎｓｉｔｉｖｅ ｌａｒｇｅ ｍａｒｇｉｎ ｄｉｓｔｒｉｂｕｔｉｏｎ ｍａｃｈｉｎｅ） ａｐｐｒｏａｃｈ ｔｏ ｔａｃｋｌｅ ｃｏｓｔ‐ｓｅｎｓｉｔｉｖｅ ｌｅａｒｎｉｎｇ ｐｒｏｂｌｅｍｓ． Ｒａｔｈｅｒ ｔｈａｎ ｍａｘｉｍｉｚｅ ｔｈｅ ｍｉｎｉｍｕｍ ｍａｒｇｉｎ ｌｉｋｅ ｔｒａｄｉｔｉｏｎａｌ ｓｕｐｐｏｒｔ ｖｅｃｔｏｒ ｍａｃｈｉｎｅｓ，ＣＳ‐ＬＤＭ ｔｒｉｅｓ ｔｏ ｏｐｔｉｍｉｚｅ ｔｈｅ ｍａｒｇｉｎ ｄｉｓｔｒｉｂｕｔｉｏｎ ａｎｄ ｅｆｆｉｃｉｅｎｔｌｙ ｓｏｌｖｅ ｔｈｅｏｐｔｉｍｉｚａｔｉｏｎｏｂｊｅｃｔｉｖｅｂｙ ｔｈｅｄｕａｌｃｏｏｒｄｉｎａｔｅｄｅｓｃｅｎｔ ｍｅｔｈｏｄ，ｔｏａｃｈｉｅｖｅｂｅｔｔｅｒ ｇｅｎｅｒａｌｉｚａｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ．Ｅｘｐｅｒｉｍｅｎｔｓ ｏｎａｓｅｒｉｅｓｏｆ ｄａｔａｓｅｔｓａｎｄｃｏｓｔ ｓｅｔｔｉｎｇｓｅｘｈｉｂｉｔ ｔｈｅｉｍｐｒｅｓｓｉｖｅｐｅｒｆｏｒｍａｎｃｅ ｏｆ ＣＳ‐ＬＤＭ；ｉｎ ｐａｒｔｉｃｕｌａｒ，ＣＳ‐ＬＤＭ ｉｓ ａｂｌｅ ｔｏ ｒｅｄｕｃｅ ２４％ ｍｏｒｅａｖｅｒａｇｅ ｔｏｔａｌ ｃｏｓｔ ｔｈａｎ ＣＳ‐ＳＶＭ ． Ｋｅｙｗｏｒｄ