國家間開展刑事司法協助的法律依據，大體上有四種：第一，國家間共同參加的國際公約，如1959年歐洲一些國家簽訂的《歐洲刑事司法協助公約》，2005年10月27日我國第十屑全國人大常委會第十八次會議審議并批準、2005年12月14日正式生效的《聯合國反腐敗公約》等。第二，國家間簽訂的刑事司法協助條約，如1987年我國與波蘭人民共和國簽訂的《關于民事和刑事司法協助的協定》。第三，國家間臨時達成的關于刑事司法協助的互惠協議，如1990年2月我國向日本國提出引渡劫機到日本的犯罪分子張振海，因兩個國家間沒有刑事司法協助協定，我國在提出引渡的同時，承諾在今后類似案件中，將向日方提供類似的協助，這就是一次兩個國家達成的關于刑事司法協助的互惠協議。第四，國內的法律規定，如刑事訴訟法第17條規定：“根據中華人民共和國締結或者參加的國際條約，或者按照互惠原則，我國司法機關和外國司法機關可以相互請求刑事司法協助。”
在我國，司法機關對外國提供刑事司法協助或者請求外國司法機關提供刑事司法協助，除了遵守上述中華人民共和國締結或者參加的國際條約及刑事訴訟法第17條的規定外，還需要遵守有關的司法解釋、行政法規。最高人民法院《解釋》第18章“涉外刑事案件的審理和司法協助”、最高人民檢察院《規則》第16章“刑事司法協助”、《公安機關辦理刑事案件程序規定》第13章“刑事司法協助和警務合作”都是有關司法機關進行刑事司法協助時應當遵守的規定。
