logo

[퓨처 트렌드] 적대적 인공지능의 등장

2020-01-18 20:55:00

[퓨처이코노미 김우상 기자] AI 무기 경쟁이 시작됐다. AI 경쟁은 위협 인텔리전스 작업에서 매일 일어나는 추격전 같다. 사이버 범죄자들은 사용자를 공격할 새로운 기회를 엿보고 있다.

사이버 범죄자들은 바이러스 퇴치 프로그램을 우회하거나 멀웨어 또는 랜섬웨어를 설치해서 해킹된 장치를 악용하여 사용자의 기기에 봇넷을 만들거나 웹 사이트와 중요한 서버 인프라를 제거하려 한다. 사이버범죄자 보다 앞서는 것이 보안 공급자의 우선 순위이다. AI는 공격의 정교함을 향상시켜 예측할 수 없고 공격을 줄이기가 점점 어려워지고 있다.

center
앞으로 적대적인 AI의 위협에 맞서기 위해 기술 회사와 교육 기관 사이의 파트너십이 더 늘어날 전망이다.사진=pixabay

체계적인 공격의 증가

AI는 사이버 공격을 수행하는데 필요한 인력을 감축했다. 멀웨어 코드를 수동으로 개발하는 대신에 프로세스가 자동화돼 공격에 소요되는 시간, 노력, 비용을 줄이고 있다. 그 결과, 공격은 점점 체계적으로 이뤄지고 더 큰 규모로 오랬동안 수행할 수 있다.

사회변화와 새로운 규범

클라우드 컴퓨팅 서비스와 함께 AI의 성장은 많은 기술 발전을 가져왔지만, 신중하게 규제하지 않으면 사회의 특정 측면을 변화시킬 위험이 있다.

대표적인 예는 미국 경찰과 주 정부가 도입한 안면 인식 기술 사용이다. 샌프란시스코는 올해 안면 인식 기술을 금지하는 미국 최초의 도시로 헤드라인을 장식했다.
기술은 혜택 보다는 훨씬 더 많은 위험을 수반했고, 부정확성과 인종적 편견에 대한 의문이 제기됐다.

A기술은 완벽하지 않다. 이를 제공하는 데이터만큼은 신뢰할 수 있고 정확하다.새로운 2020년대를 맞이하면소 기술회사와 법률 입안자는 AI개발이 적절하게 규제되고 책임감 있게 사용되도록 협력해야 한다.

정보 보는 방식의 변경

우리는 지금 가짜 뉴스, 잘못된 정보, 딥페이크의 시대를 살고 있다. AI로 오해의 소지가 있고 허위인 정보를 쉽게 생성하고 배포할 수 있다. 가짜 콘텐츠를 호스팅하고 공유하는 기술 회사에 책임이 있지만 2020년 이후에는 데이터 활용 능력 교육이 더욱 중요해질 것이다. 정보와 데이터를 면밀히 조사하는 방법을 대중에게 가르치는 데 더욱 더 집중해야 할 것이다.

적대적 AI를 물리치는 파트너십

적대적인 AI의 위협에 맞서기 위해 기술 회사와 교육 기관 사이의 파트너십이 더 늘어날 전망이다. 이미 어베스트가 체코공과대와 파트너십을 맺으며 인공지능 분야의 연구를 발전시키고 있다.

전 세계 4억개가 넘는 장치에서 얻은 어베스트의 풍부한 위협 데이터를 사이버 범죄자의 공격을 선제하고 억제하기 위해 체코공과대학교의 복잡하고 회피적인 위협에 대한 연구와 결합시켰다. 실험실의 목표는 획기적인 연구를 발표하고, AI 기반 탐지 알고리즘을 포함해 어베스트의 멀웨어 탐지 엔진을 향상시키고 있다.

김우상 기자 kus@futureconomy.co.kr
<Copyright ⓒ Future Economy co, Ltd. 무단 전재 및 재배포 금지>

현장취재

  • 4차 산업혁명 시대, 국가R&D-표준 연계방안 모색

  • 2019 대한민국 산업기술 R&D 대전

  • 2019 대한민국 드론박람회

미래 기술 트렌드