Wie in vielen der asiatischen Kampfkünste ist die genaue Herkunft des Jiu Jitsu heute kaum mehr eindeutig feststellbar. Dies liegt zum einen daran, dass es in der Vergangenheit nur wenige gedruckte Bücher über die Kunst gab und dass die handgeschriebenen Manuskripte der verschiedenen Schulen einander widersprechen und von Mythen durchsetzt sind. Die Gründungsgeschichten der verschiedenen Schulen scheinen davon geprägt zu sein, dass sie Jiu Jitsu auf möglichst legendäre Wurzeln zurückführen.
In einem der Entstehungsmythen wird das Grundprinzip des Jiu Jitsu „Nachgeben, um zu siegen“ besonders deutlich. Darin heißt es, dass Akiyama Shirobei Yoshitoki (ein im 16. Jahrhundert in Nagasaki lebender Arzt) auf seiner Studienreise durch China in Klöstern neben medizinischem Wissen auch Unterricht im waffenlosen Nahkampf (chin. 白打, báidǎ, jap. Hakuda) erhielt. Dabei stellte er die körperliche Stärke als Voraussetzung zur Ausführung der Techniken fest. Zurück in Japan, unterrichtete Akiyama das aus China mitgebrachte Hakuda, doch viele seiner Lehrlinge wandten sich von diesem kraftbetonten System ab. Eines Winters beobachtete Akiyama, wie die massiven, jedoch starren Äste einer Kiefer unter der Last herunterkommender Schneemassen brachen, während sich die dünnen Äste einer daneben stehenden Weide unter der Last des Schnees so lange herunterbogen, bis der Schnee abglitt, um sich dann unversehrt wieder aufzurichten. Inspiriert von dieser Beobachtung, gründete er die erste Schule der „Kunst der Nachgiebigkeit“ und nannte sie Yoshin-Ryū (Weiden-Schule).