PEM 파일, RSA에 대한 구글링과 openssl 사용법 등을 공부하시면 될 것 같습니다 :)
뿐만 아니라 RSA에 대한 공격기법과 관련 도구들 같이 검색하시면 될 것 같네용~