นักวิจัยใช้ AI สร้างมัลแวร์ที่หลบแอนตี้ไวรัสได้แล้ว ใช้โค้ดจาก OpenAI ของ Elon Musk

By: mk
FounderAndroid
on 31 July 2017 - 20:50 Tags:
Topics: 
OpenAI
Malware
Defcon
Security
Artificial Intelligence
Node Thumbnail

Hyrum Anderson นักวิจัยด้านความปลอดภัยจากบริษัท Endgame โชว์ผลงานวิจัยการใช้ AI สร้างมัลแวร์ที่แอนตี้ไวรัสจับไม่ได้

แนวคิดของเรื่องนี้คือนำโค้ดมัลแวร์เดิมที่เป็นไบนารี มาดัดแปลงเพียงเล็กน้อย (น้อยมากๆ ระดับแก้ไม่กี่ไบต์) โดยให้ AI ทดลองหาวิธีแปลงที่น่าจะหลุดรอดการตรวจจับไปเรื่อยๆ จนกว่าจะได้วิธีการที่ดีที่สุด เช่น เติมเลขศูนย์ เติมไบต์สุ่ม เปลี่ยนชื่อบางเซคชั่นในไฟล์ ฯลฯ

AI ตัวนี้ใช้เวลาเทรน 15 ชั่วโมงกับตัวอย่างโค้ด 100,000 ตัวอย่าง (ไม่ระบุว่าทดสอบกับแอนตี้ไวรัสตัวไหน) ผลคือ AI สามารถสร้างโค้ดมัลแวร์ที่มีโอกาสรอดการตรวจจับได้ถึง 60%

Anderson เผยแพร่ผลงานของเขาที่งานประชุม DEF CON และเปิดโค้ดบน GitHub โค้ดของเขาใช้ซอฟต์แวร์ช่วยเรียนรู้แบบ reinforcement learning (เรียนรู้แบบมีแรงจูงใจที่จะได้รางวัล) ชื่อ Gym ซึ่งพัฒนาโดยองค์กร OpenAI ที่ก่อตั้งโดย Elon Musk

ที่มา - Endgame, The Register

No Description

Get latest news from Blognone

Comments

By: btoy
ContributorAndroidWindows
on 31 July 2017 - 20:57 #1000566
btoy's picture

ไม่ว่า​จะ​เทคโนโลยี​ไหน​ คนที่​จะนำเ​อา​ไปใช้​มันก็มีทั้ง​ 2 ฝั่งเสมอ​ แบบนี้ก็คงต้องเชียร์​ฝ่ายธรรม​ะ​ให้ชนะสินะ​ อิอิ

..: เรื่อยไป

By: whitebigbird
Contributor
on 31 July 2017 - 21:17 #1000568
whitebigbird's picture

อันนี้โคตรแสบ

By: kurosame
ContributoriPhone
on 31 July 2017 - 21:19 #1000569
kurosame's picture

ฝั่งจับก็ต้องใช้ GAN ละไม่งั้นตามไม่ทัน

{$user} was not an Imposter

By: gingtalk
Windows PhoneAndroidWindows
on 31 July 2017 - 22:06 #1000573
gingtalk's picture

นั่นแหละ..คุณแอนเดอสัน

By: devilblaze
iPhoneAndroidWindows
on 31 July 2017 - 23:45 #1000586 Reply to:1000573
devilblaze's picture

แอนตี้ไวรัสตามฆ่าไวรัส แต่เจ้ากรรมผู้สร้างจับไวรัสเข้า ignore list แถมลบแอนตี้ไวรัสทิ้งภายหลัง ถถถถ

By: zda98
Windows Phone
on 31 July 2017 - 22:29 #1000578

เรายังไม่มี Antivirus ที่ใช้ AI ในการตรวจจับแบบจริงๆจังๆ งานนี้คงต้องมีแล้วล่ะ

By: kosate on 31 July 2017 - 23:20 #1000584
kosate's picture

อ่านข่าวแล้วยังงงๆนิดหน่อยครับ

OpenAI Gym เหมือนเป็น environment ที่ให้เราสามารถสร้าง model reinforcement learning แล้ว submit เพื่อไป benchmarks แล้วแสดง score รึเปล่าครับ (คล้ายๆ Kaggle แต่เป็นด้าน RL)

ซึ่งสิ่งที่เขาสร้างเป็น environment ที่สามารถดักจับ malware โดยให้คนทั่วไปสามารถเอา environment นี้ไปสร้าง model RL ของเราเองแล้วลองเล่นดูได้ เท่าที่ผมเข้าใจจาก GitHub นะครับ

ส่วนข่าวที่บอกว่า train 15 ชม. บน 100,000 samples และได้ accuracy 60% น่าจะเป็นข่าวที่ไม่เกี่ยวข้องนะครับ (ผมเข้าใจว่าข่าวที่ 2 น่าจะเป็น OpenAI baseline (baseline นี้ผมเดานะครับ) ที่น่าจะเป็นคนละตัวกับ gym)

ไม่แน่ใจเหมือนกันนะครับ แต่อยากให้รบกวนลองเช็คดูอีกที ขอบคุณมากครับ

By: mk
FounderAndroid
on 1 August 2017 - 09:06 #1000627 Reply to:1000584
mk's picture

ตามต้นฉบับเลยครับ

With 15 hours of training the software ran over 100,000 samples past a non-commercial security engine. They were able to get 16 per cent of the customized samples past the security system’s defenses.

By: animateex
iPhoneAndroidUbuntuWindows
on 1 August 2017 - 07:28 #1000606
animateex's picture

ความสำคัญของข่าวคือ Elon Musk

แต่ความน่ากลัวคือถ้าใช้ AI ที่ฉลาดกว่านี้ การปรับไบนารีที่ซับซ้อนกว่านี้ และตัวมัลแวล์ที่พลังทำลายมากกว่า ความบรรลัยมาแน่

By: loptar on 1 August 2017 - 10:16 #1000642
loptar's picture

anti virus ก็ต้องใช้ AI ด้วยแล้วสิ

By: TaishoEra on 2 August 2017 - 00:00 #1000767 Reply to:1000642

ทำแบบนั้น anti virus อาจกลายเป็น virus ไปได้เองเลยด้วย