Pythonのお勉強 Part73

2024/06/06(木) 08:48:10.07

!extend:default:vvvvv:1000:1024
!extend:default:vvvvv:1000:1024
↑スレ立てる毎に減るので、減ってたら３つに補充すること。

・当スレにRubyのソースコード類を書くことを禁ず
・Ruby等、Pythonではないプログラミング言語での回答類・質問を書くのも禁止
・「Ruby では」「Rubyでは」「Rails」正規表現→「^クソチョンw$」をNGワード登録推奨
・エラーを解決したいときは、かならず
エラー文（勝手に省略orスクショうｐ等の横着禁止）と
おま環（Pythonのバージョン番号＋OS名とバージョン＋IDE名）を書け。

※前スレ
Pythonのお勉強 Part72
https://mevius.5ch.net/test/read.cgi/tech/1703659345/

VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured

2024/09/17(火) 10:20:30.50

>>951
Pandasは行指向じゃなくて列指向だと判ればあとは簡単

2024/09/17(火) 10:23:43.89

>>943
>明示的にしろ暗黙にしろ、オブジェクトのコピーにいちいち気を使いたくない
>コピーするだけで時間がかかるようなオブジェクトになりそうなら、
>最初からそうならない実装にする

まあこれは真実で
それならオブジェクトを保持するためのオブジェクトと
ソートするためだけのインデックスを分けるかな

2024/09/17(火) 10:55:41.47

pandasはもう古いよ
polarsがついにv1公開されたからそれに移行した
loc["name"]みたいなのも消えてる
というよりインデックスというゴミが消えてる

2024/09/17(火) 10:56:23.24

複数のエクセルファイルから特定列のデータを抜き出して
新たにエクセルファイルにまとめて書き出すということをしたのですが、
複数ファイルには重複する行が含まれていて、
下記の2つを試したのですがどちらも欠損データが生じました。

1.listに一旦全部入れて、最終的にsetに一旦変換してlistに戻す
2.1行ごとに最終的なリストに含まれていない要素をチェックしながら追加

データは5列で最終的に重複処理したもので300行程度、
重複処理前でも2000行余りぐらいのデータです。
最終的にpandasで全部一旦追加した後df.drop_duplicates()にて処理して問題なく処理されたのですが
下記の方法で欠損することとかあり得るのでしょうか？

2024/09/17(火) 12:11:47.72

>>959
data2str

2024/09/17(火) 12:16:27.92

>>966
各列をそれぞれlistにしてsetにしたのか？
それだと各列ごとに重複削除するから行レベルでは重複してないものも消えそうだが

2024/09/17(火) 13:30:30.55

>>968
1,2とも各行””.joiin(list)してから処理しています。

2024/09/17(火) 14:23:18.11

>>962
処理内容はconvertだけど、目的語が元データになってしまう
convert_to_newdata
にしないと、
convert_newdata
だと絶対間違う

2024/09/17(火) 14:53:19.06

>>969
["1", "", "2", "", "3"]と["1", "2", "3", "", ""]は重複？
とりあえずtuple(list)してから処理してみれば？

2024/09/17(火) 14:58:45.05

>>967
こういう命名をするとよくわかるように「データ渡すと加工して文字列にしてくれる関数名」というふわっとした問題設定がそもそも間違ってる可能性が高い

2024/09/17(火) 15:55:41.11

>>971
基本空白は入っていないので["1", "2", “3”]の形式になりますが
元がexcelなのでデータを見ると何かが混じっている可能性はありますね
少し余裕が出たら検証してみます

2024/09/17(火) 16:40:41.16

人間用excelを読み込むと全然ちゃんとしてないので、
全セルを配列に読み込んで、文字列検索でタイトル行を探して、
データ範囲らしき部分を割り出して、それでもエラーは出るのでいろんなケースに対応して、
みたいなひたすら泥臭いコードになる
取り消し線で削除するのやめて

2024/09/17(火) 18:07:41.72

上の方でpolarsを知ったので、ちょっと試してたのですがやり方がわかりません。
2つのDFを比較して、A,B列の値が共通の場合新しい方のDFの行を使ってDFを作成するということがやりたいです。

以下のpandasの処理をpolarsでやりたいときどのようにしたら良いんでしょう？

filtered_df = dfOLD[~(dfOLD[“A”].isin(dfNEW[“A”]) & dfOLD[“B”].isin(dfNEW[“B”]))]
concat_df = pd.concat([dfNEW, filtered_df], axis=0, ignore_index=True)

2024/09/17(火) 18:29:39.94

>>973
空白は一つの例だよ
他にもtuple(list)で比較するのと"".join(list)で比較するのでは結果が異なるケースあるでしょ

それに今現在処理してるデータにそういうケースが含まれてるかどうかを調べるよりも
まずは要求仕様として列を連結した文字列が同じなら重複としてみなすのかどうかが大事

みなす仕様ならdf.drop_duplicates()を使うのは間違ってる
みなさない仕様なら"".join(list)で比較するのは間違ってる

2024/09/18(水) 05:40:32.41

>>956
飼育員とか

2024/09/18(水) 10:09:46.84

自己レスです。意外とあっさり出来ました。> 975
import polars as pl
df1 = pl.DataFrame({"a": ['A1','A2','A3','A4'], "b": ['B1', 'B2', 'B3', 'B4'], "c": ['100', '200', '300', '400']})
df2 = pl.DataFrame({"a": ['A1','A2','A3'], "b": ['B1', 'B2', 'B3'], "c": ['150', '250', '350']})
filterDF = df1.join(df2, on=['a','b'], how="anti")
concatDF = pl.concat([df2, filterDF])
print(filterDF,concatDF)

2024/09/18(水) 19:08:32.27

単位の数Uがあって、nとUに対して
int(n/U)*U
を返す関数はどういう名前がいいだろう

2024/09/18(水) 20:05:30.82

floor/round_down/align + (to +) unit/multiple

2024/09/18(水) 20:09:46.82

discretizeとか？

2024/09/18(水) 21:47:38.42

音楽ソフトなんかでは
拍子の位置に揃えるのを
quantizeって言うな

2024/09/18(水) 22:23:17.78

n//U*Uと(n+U-1)//U*Uが区別できる命名にしたいね

2024/09/19(木) 18:45:28.76

>>979
普通はtruncateじゃない？SQLにTRUNC関数がある

2024/09/19(木) 19:05:10.19

MATLABのfloor(x, unit)と同じだからfloorだろう

2024/09/19(木) 19:26:31.64

floorか
整数へのfloorはunit=1の特殊ケース

2024/09/19(木) 19:34:49.21

整数化のfloorが有名過ぎて
混同の可能性ない？

2024/09/19(木) 23:17:36.39

関数の命名は内部実装がどうなってるかではなく
どういう意図でその関数を呼ぶのかという観点を第一とすべき

そのための第一歩は自然言語で意図を記述すること
それができてないうちは適切な命名とか無理

2024/09/20(金) 11:26:49.09

appendとかaddとかpushとか滅茶苦茶

2024/09/20(金) 11:52:25.51

strだとreplaceでreだとsubなのやめて欲しい

2024/09/20(金) 11:58:37.64

>>988
趣味でやってる人は仕様とかテストに縁がないからそういう感覚がたぶん分からないんだよ

2024/09/20(金) 13:09:25.28

>>985-987
数学的には、floorとかceilとかはunit=1のことしか指さない関数(というか、ℝ→ℤでそもそも定義域と値域の集合が異なるともいえる)なんだよねえ。この辺をどう見るか。
Python風に言えば、int(float_val)と、math.floor(float_val)は型が違うでしょう？という

ただ、>>988 のいっているように、これらは、絶対に考慮しなければならないことではなく、文脈依存だと思う。

https://ja.m.wikipedia.org/wiki/床関数と天井関数

2024/09/20(金) 13:16:40.50

>>979
単位変換くん2

2024/09/20(金) 13:19:35.67

return int(n/unit)*unit
とすると、unitをintで与えるとintで返って、
floatで与えるとfloatで返る

直線を階段状に変換する図としては相似で、
階段の高さが1なのかそれ以外なのか
1以外だとして整数である必要もなく、有理数への自然な拡張に見える

2024/09/20(金) 14:17:35.31

>>994
>return int(n/unit)*unit
>とすると、unitをintで与えるとintで返って、
>floatで与えるとfloatで返る

return int(float(n)/unit)*unit
って描いた方が良いよ

2024/09/20(金) 15:38:24.41

pandasのto_excelってopenpyxlを使ってるんだな

2024/09/20(金) 15:58:36.50

openpyxlの遅さは実用にならないレベル
テスト用の小さいファイルでも普通に遅い
本番の大きなファイルだと数時間単位かかる

2024/09/20(金) 16:09:16.36

大きなファイルって何万行ぐらいあんの？

2024/09/21(土) 06:41:17.65

エクセル作業の自動化でpythonでプログラム書いて完成はしたんだけど、書き込みが遅すぎる。
普通に手動でエクセル開いて書き込んで閉じた方が早いレベル。
マクロ含んでるからopenpyxlを使わないとダメだし、調べたらwrite_onlyモードにすると早いってあったけど、あれって新規でブック作る為のやつだよね。
何かいいのないのかしら。

2024/09/21(土) 08:47:29.73

Excelのない環境で動作させんじゃなきゃ
ネイティブのスクリプト(TypeScript)使うのが素直

**1001** · Over 1000

このスレッドは１０００を超えました。
新しいスレッドを立ててください。
life time: 106日 23時間 59分 20秒