というか英語版の解析に答えあったわ。
(https://gamefaqs.gamespot.com/3ds/997793-etrian-odyssey-iv-legends-of-the-titan/faqs/72816)

The game first calculates this formula: TEC - ((UserLevel * 0.63) + 5.28).
If the result is less than or equal to -15, TECMultiplier = 1.
If the result is greater than -15 and less than 15, TECMultiplier = sin(Result / 10) + 2.
If the result is greater than or equal to 15, TECMultiplier = 3.

要は TEC - (Lv*0.63+5.28) を計算して、その結果が
15を超えれば TEC * 3 (最高倍率)
-15を超えれば TEC * 1 (最低倍率)
中間なら TEC * 2 + sin (結果/10)

三角関数とか使うのかよ、マニアックな計算式だ。
こんなん普通に解析できねぇ…