AI로 인한 보안분야에 대하여

안녕하세요. 웹 개발 4년, 사이버보안 1년차 고등학생입니다.

CCE, 화이트햇, 여러 지역 대회, 해외 대회 등등 여러 CTF를 참여하고 나가다보니
AI 활용에 대한 문제와 논란이 많습니다. 드림핵 커뮤니티도 그렇구요.

대회를 다니다보니 많은 분들과 친해지고, 알게되었으며 라이트업도 받아보고
함께 팀도 해보며 느낀 것은 이분들 보안 개념 없이 AI만 쓰는 사람들이다 입니다.
저는 심지어 이번에 나간 오프라인 대회에서는 모두가 VM이나, 툴이 아닌, 에이전트 cli를 켜고 있었고, 문제 난이도가 너무 낮아 다른 사람들이 프로그램을 만들어 직접 풀이 및 제출을 자동화하여 웨이브때마다 20초 안에 모든 문제가 솔브되는 것을 경험했습니다.

지피티, 클로드, 그록 등등 프론티어 모델들이 나오며, 대회 참가자, 출제자, 주최/주관 측 모두 이 시대에 AI 활용을 능력으로 봐야할지에 대한 고민이 많아보입니다. 드림핵도 마찬가지입니다.
AI로 문제 출제? 문제 풀이? 절대 드림핵에서 모르는 문제가 아닐 겁니다. 다만 이걸 능력으로 봐야할지에 대해 정확히 판단하지 못하고 있는 겁니다.

드림핵이 무료화가 되는 이유중 하나도 AI를 남발하여 수상한 기록들로 취업했을 경우 발생하는 사고를 줄이고 조금의 보안 지식이라도 심어주기 위함이 아닐까 싶습니다.

현재 학생들의 보안 분야는 이번 세무사 수석 AI 부정행위와 다를 게 없습니다. AI 사용을 문제로 삼는 것이 아닌, 이번 세무사 AI 사건에 대해 여론은 이런 사람들이 현직에 나갔을 경우에 생기는 문제점에 대해서도 문제 삼고 있는 것입니다.

AI 활용도 능력이고 AI를 활용하여 문제를 빨리 풀고 대회에 수상하는 것 물론 실력이라고 생각합니다만, 보안 지식과 개념은 충분히 가지고 있어야, 그 문제를 이해할 수 있어야하지 않을까 싶습니다.

앞으로 보안 업계와 CTF 대회 주최 측, 기업들은 AI를 활용한 문제 해결 능력과 문제의 원리를 스스로 이해하는 능력을 어떻게 평가할 것인지, 그리고 AI 활용과 과도한 의존의 경계를 어디에 둘 것인지 고민해야 할 시점이라고 생각합니다.

AI를 활용해 문제를 해결하는 것도 실력이라고 생각합니다. 하지만 AI가 해결한 문제를 스스로 이해하고 설명하지 못한다면, 그것까지 온전한 개인의 보안 실력이라고 인정해야 할까요?

작성자 정보
이제는 LLM을 안쓰는것은 뒤처질수밖에 없어서 프롬포트 공부나 본인만의 하네스를 걸어서 LLM을 쓰는게 맞을듯 합니다.
드림핵 자칭 고수 == 바이브코더 뭐가다름? ㅋㅋㅋㅋ