「Python 標準ライブラリ概観」の版間の差分
ナビゲーションに移動
検索に移動
| 1,105行目: | 1,105行目: | ||
r = cur.execute("select count(key) from harai") | r = cur.execute("select count(key) from harai") | ||
print r.fetchone()[0] | print r.fetchone()[0] | ||
| + | ===JSONエンコードとデコード [json]=== | ||
| + | *https://docs.python.org/ja/3/library/json.html | ||
| + | |||
==UUIDを使用する== | ==UUIDを使用する== | ||
*http://99blues.dyndns.org/blog/2010/07/uuid_generate/ | *http://99blues.dyndns.org/blog/2010/07/uuid_generate/ | ||
2020年9月19日 (土) 05:23時点における版
目次
- 1 Python 標準ライブラリ概観
- 1.1 OSインターフェース [os]
- 1.2 ファイルのワイルドカード [glob]
- 1.3 ファイルの文字コード(codecs)
- 1.4 コマンドライン引数 [sys]
- 1.5 コマンドラインオプション[getopt]
- 1.6 標準エラーを出力しプログラムを終了 [sys]
- 1.7 正規表現を利用する [re]
- 1.8 数学 [math]
- 1.9 URL による任意のリソースへのアクセス[urllib]
- 1.10 インターネットアクセス [urllib2]
- 1.11 日付と時刻 [date,datetime,time]
- 1.12 時間計算 [time]
- 1.13 データ圧縮 [zlib]
- 1.14 パフォーマンス計測 [timeit]
- 1.15 品質管理 [doctest]
- 1.16 出力書式
- 1.17 テンプレート
- 1.18 シリアライズ [pickle]
- 1.19 バイナリデータレコードレイアウトでの作業 [struct]
- 1.20 オブジェクトのコピー [copy]
- 1.21 マルチスレッド [threading]
- 1.22 ロギング [logging]
- 1.23 XML Dom [xml.dom]
- 1.24 XML ElementTree [xml.etree]
- 1.25 データベースの使用 [sqlite3]
- 1.26 JSONエンコードとデコード [json]
- 2 UUIDを使用する
- 3 メールを送信する
Python 標準ライブラリ概観
Python | 言語まとめ Python | Python サンプルコード | 言語まとめ Python | Python ライブラリ |
- Python チュートリアル
- Python 標準ライブラリ
- グローバルモジュールインデクス
- Python ライブラリリファレンス
- 日本Pythonユーザ会（PyJUG）
OSインターフェース [os]
カレント作業ディレクトリの取得
取得
>>> import os >>> os.getcwd() 'C:\\Programs\\Python25'
設定
>>> os.chdir(r'c:\work\py') >>> os.getcwd() 'c:\\work\\py'
環境変数の参照
>>> print os.environ['PATH'] /usr/local/pgsql/bin:/usr/lib/oracle/xe/app/oracle/product/10.2.0/server/bin:･･･
環境変数の設定
>>> os.environ["PHRASE_ENV"] = "test" >>> os.environ.get("PHRASE_ENV") 'test'
現在動いている Python モジュールの 絶対パスを取得
import os print os.path.abspath(os.path.dirname(__file__))
ファイルの存在を調べる
>>>import os.path >>>os.path.exists(r'/test.txt') True
ファイルの情報を取得
>>> import os >>> r = os.stat(r'/test.txt') >>> r nt.stat_result(st_mode=33206, st_ino=0L, st_dev=0, st_nlink=0, st_uid=0, st_gid=0, st_size=4508L, st_atime=1266996480L, st_mtime=1266452528L, st_ctime=1251076742L)
ファイルのタイムスタンプを取得
>>> import os
>>> os.stat('test.txt').st_mtime
1457156166.75
絶対パスからファイル名のみを取得
- os.path.basename
>>> import os
>>> os.path.basename('c/work/test.txt')
'test.txt'
ファイルのワイルドカード [glob]
>>> import glob
>>> glob.glob('*.exe')
['python.exe', 'pythonw.exe', 'w9xpopen.exe']
httpd のアクセスログの内容を出力
import re
import glob
import os
file_pattern = r'/var/log/httpd/access*'
for file_name in glob.glob(file_pattern):
if os.path.isfile(file_name):
f = open(file_name)
for line in f:
print line
ファイルの文字コード(codecs)
- 文字コードを指定して、ファイルを開く
import codecs
fd = codecs.open(search_result_file, 'r', 'utf-8')
for l in fd:
print l
open(filename, mode='rb', encoding=None, errors='strict', buffering=1):
- errors
'strict': raise an exception in case of an encoding error 'replace': replace malformed data with a suitable replacement marker, such as '?' or '\ufffd' 'ignore': ignore malformed data and continue without further notice 'xmlcharrefreplace': replace with the appropriate XML character reference (for encoding only) 'backslashreplace': replace with backslashed escape sequences (for encoding only)
コマンドライン引数 [sys]
import sys print sys.argv
結果
c:\work\py>python test.py 1 2 3 ['test.py', '1', '2', '3']
コマンドラインオプション[getopt]
getopt(args, options[, long_options])
<blockquote>options はスクリプトで認識させたいオプション文字と、引数が必要な場 合にはコロン(":")をつけます。</blockquote>
import getopt, sys
def main():
try:
opts, args = getopt.getopt(sys.argv[1:],"f:c:")
except getopt.GetoptError:
usage()
sys.exit(2)
content_file = None
code_set = None
print opts
for o, a in opts:
if o == '-f':
content_file = a
if o == '-c':
code_set = a
標準エラーを出力しプログラムを終了 [sys]
import sys
sys.stderr.write('System Standerd Error\n')
sys.exit()
正規表現を利用する [re]
http://www.python.jp/doc/2.5/lib/re-objects.html http://www.python.jp/Zope/articles/tips/regex_howto/regex_howto_4
正規表現による文字列の置換
- sub(pattern, repl, string, count=0, flags=0) を利用する
>>> s = r'AaBbCc' >>> re.sub(r'[a-z]',r,s) 'ABC'
一致箇所を抜き出す
>>> import re >>> re.findall(r'\b[0-9][a-z]+', '1a,2b,cc,dd,4e') ['1a', '2b', '4e']
グループ名を利用
英文字 + 連番 の連番部分を抜き出す
- ?P<名前> でグループに名前付けを行うことができる
import re
ptn = re.compile(r'[A-Z]+(?P<SEQ>[0-9]+)')
for line in lines:
m = ptn.match(line)
if m:
print m.group('SEQ')
else:
print None
MatchObject
<blockquote>もしグループが、複数回マッチしたパターンの一部に 含まれていれば、 最後のマッチが返されます。</blockquote>
正規表現による分割
- re.split を利用
>>> import re
>>> re.split('[ \t\n\.\,]', 'this is\ta\npen.')
['this', 'is', 'a', 'pen', ]
コンパイル時のフラグ
| フラグ | 意味 |
|---|---|
| DOTALL(S) | . が改行も含めて、全ての文字とマッチするように指定する |
| IGNORECASE(I) | 大文字小文字を区別しない |
| LOCALE(L) | ロケールを考慮してマッチングを行う |
| MULTILINE(M) | 複数行にマッチング。これは ^ と $ に影響する |
| VERBOSE(X) | 冗長な正規表現（もっと、きれいで分かりやすくまとめられる表現）を有効にする。 |
数学 [math]
>>> import math >>> pow(2,2) 4
URL による任意のリソースへのアクセス[urllib]
日本語をURLエンコーディングする
例
- マップ型オブジェクト、または 2 つの要素をもったタプルからなるシーケンスを、 "URL にエンコードされた (url-encoded)" に変換して、urlopen() のオプション引数 data に適した形式にする。
import urllib
#KEY-VALUE のペアのシーケンス
p = [
('key1',u'日本語'.encode('utf-8')),
('key2',u'エンコード'.encode('utf-8')),
]
print urllib.urlencode(p)
結果
key1=%E6%97%A5%E6%9C%AC%E8%AA%9E&key2=%E3%82%A8%E3%83%B3%E3%82%B3%E3%83%BC%E3%83%89]
インターネットアクセス [urllib2]
指定されたURLを読む
>>> import urllib2
>>> f = urllib2.urlopen('http://typea.info')
>>> print f.read(100)
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
プロキシサーバーを経由
proxy_support = urllib2.ProxyHandler({"http" : "http://proxyhost:8080"})
opener = urllib2.build_opener(proxy_support)
urllib2.install_opener(opener)
url = r'http://hogehoge'
f = urllib2.urlopen(url_idx)
for l in f:
print l
CGIにデータを送信し結果を得る
>>> import urllib2 >>> req = urllib2.Request(url='http://typea.info/tips/wiki.cgi',data='action=RSS') >>> f = urllib2.urlopen(req) >>> print f.read() <?xml version="1.0" encoding="UTF-8" standalone="yes"?> <rdf:RDF xmlns="http://purl.org/rss/1.0/" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-ns#" xmlns:dc="http://purl.org/dc/elements/1.1/" xml:lang="ja" > <channel rdf:about="http://typea.info/tips/wiki.cgi?action=LIST"> :
POSTリクエストを送信する
例
- urllib2.urlopen の第2引数に、application/x-www-form-urlencoded 形式のデータを設定
- application/x-www-form-urlencoded 形式のデータは、urllib.urlencode にマップ型か2タプルのシーケンスを渡すことで得られる。
param_map = {'appid':self.aid,
'sentence':sentence,
'filter':'9',
}
url = r'http://developer.yahoo.co.jp/webapi/jlp/ma/v1/parse.html'
data = urllib.urlencode(param_map)
f = urllib2.urlopen(url, data)
CGI のサポート (cgi)
HTMLタグのエスケープ
>>> from xml.sax.saxutils import escape
>>> escape("<div>")
'<div>'
日付と時刻 [date,datetime,time]
基本
>>> from datetime import date >>> now = date.today() >>> now datetime.date(2009, 6, 19) >>> birthday = date(1971, 9, 30) >>> birthday datetime.date(1971, 9, 30) >>> age = now - birthday >>> age.days 13777
タイムスタンプ
>>> from datetime import datetime >>> datetime.now().isoformat() '2009-07-29T16:44:56.631000' >>> datetime.utcnow().isoformat() '2009-07-29T07:45:05.227000'
タイムスタンプから、datetime オブジェクトを作成
>>> from datetime import datetime >>> ts = os.stat(r'/test.txt').st_ctime >>> datetime.fromtimestamp(ts).isoformat() '2009-08-24T10:19:02.118895'
時間の演算 (timedelta)
- timedelta を利用する
| 属性 |
|---|
| days |
| seconds |
| microseconds |
>>> from datetime import date >>> from datetime import timedelta >>> today = date.today() >>> today datetime.date(2010, 1, 25) >>> new_dt = today - timedelta(days=10) >>> new_dt datetime.date(2010, 1, 15)
日付の書式設定
>>> time.strftime('%Y/%m/%d', time.localtime())
'2010/02/24'
>>> datetime.today().strftime('%Y%m%d')
'20100224'
>>> datetime.fromtimestamp(os.stat(r'/test.txt').st_ctime).strftime('%Y%m%d')
'20090824'
| 指定子 | 意味 | 備考 |
|---|---|---|
| %a | ロケールの短縮された曜日名を表示します | |
| %A | ロケールの曜日名を表示します | |
| %b | ロケールの短縮された月名を表示します | |
| %B | ロケールの月名を表示します | |
| %c | ロケールの日時を適切な形式で表示します | |
| %d | 月中の日にちを10進表記した文字列 [01,31] を表示します | |
| %f | マイクロ秒を10進表記した文字列 [000000,999999] を表示します (左側から0埋めされます) | (1) |
| %H | 時 (24時間表記) を10進表記した文字列 [00,23] を表示します | |
| %I | 時 (12時間表記) を10進表記した文字列 [01,12] を表示します | |
| %j | 年中の日にちを10進表記した文字列 [001,366] を表示します | |
| %m | 月を10進表記した文字列 [01,12] を表示します | |
| %M | 分を10進表記した文字列 [00,59] を表示します | |
| %p | ロケールの AM もしくは PM を表示します | (2) |
| %S | 秒を10進表記した文字列 [00,61] を表示します | (3) |
| %U | 年中の週番号 (週の始まりは日曜日とする) を10進表記した文字列 [00,53] を表示します新年の最初の日曜日に先立つ日は 0週に属するとします | (4) |
| %w | 曜日を10進表記した文字列 [0(日曜日),6] を表示します | |
| %W | 年中の週番号 (週の始まりは月曜日とする) を10進表記した文字列 [00,53] を表示します新年の最初の月曜日に先立つ日は 0週に属するとします | (4) |
| %x | ロケールの日付を適切な形式で表示します | |
| %X | ロケールの時間を適切な形式で表示します | |
| %y | 世紀なしの年(下2桁)を10進表記した文字列 [00,99] を表示します | |
| %Y | 世紀ありの年を10進表記した文字列を表示します | |
| %z | UTCオフセットを +HHMM もしくは -HHMM の形式で表示します (オブジェクトがnaiveであれば空文字列) | (5) |
| %Z | タイムゾーンの名前を表示します (オブジェクトがnaiveであれば空文字列) | |
| %% | 文字 '%' を表示します,"" |
- strptime() メソッドと共に使われた場合、 %f 指定子は 1 桁から 6 桁の数字を受け付け、右側から 0 埋めされます。 %f は C 標準規格の書式セットに拡張されます。
- strptime() メソッドと共に使われた場合、 %p 指定子は出力の時間フィールドのみに影響し、 %I 指定子が使われたかのように振る舞います。
- 範囲は 0 から 61 で正しいです; これはうるう秒と、 (極めて稀ですが) 2秒のうるう秒を考慮してのことです。
- strptime() メソッドと共に使われた場合、 %U と %W 指定子は、年と曜日が指定された場合の計算でのみ使われます。
- 例えば、 utcoffset() が timedelta(hours=-3, minutes=-30) を返すとしたら、 %z は文字列、 '-0330' で置き換えられます。
時間計算 [time]
一定時間待つ
>>> import time >>> time.sleep(2)
データ圧縮 [zlib]
>>> import zlib >>> s = 'Common data archiving and compression formats are directly supported by modules including: zlib, gzip, bz2, zipfile, and tarfile. ' >>> len(s) 130 >>> t = zlib.compress(s) >>> len(t) 111 >>> zlib.decompress(t) 'Common data archiving and compression formats are directly supported by modules including: zlib, gzip, bz2, zipfile, and tarfile. ' >>> zlib.crc32(s) 1515784898
パフォーマンス計測 [timeit]
- 以下例は、ステートメントが、a * b 初期値 a=2、b=5 の処理時間を計測
>>> from timeit import Timer
>>> Timer('a * b', 'a=2;b=5').timeit();
0.12105141854635804
品質管理 [doctest]
- テストを各関数に記述し、開発中頻繁に実行するという高品質への開発アプローチがある
- doctestモジュールは、モジュールをスキャンし、プログラム上のドキュメント(docstrings)に埋め込まれたテストを検証する
- +1した値を返すinc()関数に、+2した値を返すバグがある例
>>> def inc(val):
... """+1して返す
... >>> print inc(10)
... 11
... """
... return val + 2
...
>>> import doctest
>>> doctest.testmod()
*******************************************
File "__main__", line 3, in __main__.inc
Failed example:
print inc(10)
Expected:
11
Got:
12
*******************************************
1 items had failures:
1 of 1 in __main__.inc
***Test Failed*** 1 failures.
(1, 1)
出力書式
reprモジュール [repr]
- repr モジュールは 巨大で深くネストした内容を簡略表示する、repr() 関数のカスタム版を提供
repr() 関数使用
>>> import os >>> repr(dir(os)) "['F_OK', 'O_APPEND', 'O_BINARY', 'O_CREAT', 'O_EXCL', 'O_NOINHERIT', 'O_RANDOM', 'O_RDONLY', 'O_RDWR', 'O_SEQUENTIAL', 'O_SHORT_LIVED', 'O_TEMPORARY', 'O_TEXT', 'O_TRUNC', 'O_WRONLY', 'P_DETACH', 'P_NOWAIT', 'P_NOWAITO', 'P_OVERLAY', 'P_WAIT', 'R_OK', 'SEEK_CUR', 'SEEK_END', 'SEEK_SET', 'TMP_MAX', 'UserDict', 'W_OK', 'X_OK', '_Environ', '__all__', '__builtins__', '__doc__', '__file__', '__name__', '_copy_reg', '_execvpe', '_exists', '_exit', '_get_exports_list', '_make_stat_result', '_make_statvfs_result', '_pickle_stat_result', '_pickle_statvfs_result', 'abort', 'access', 'altsep', 'chdir','chmod','lossee','curdiir' defppaath 'devnnuull 'dup,, 'p222', envviron, 'errnoo','rroorr','execll','xecclleexeccllpexeccllpe 'execcvv',execcvveexeccvvpexeccvvpe 'extsseepfdoppeenfstaatt',fsynncc',getccwwdgetccwwdu 'geteennvgetppiidisattttylineessep 'listtddir 'lseeekk',lstaatt 'maakkedirs 'mkdirr, ame,, 'open', 'pardir','ath,, 'pathsep' pipe,, 'popen', ppenn22',popeen33',popeen44',puteennv',read,, 'remove', 'removedis, 'renammme','renamees', 'rmdir', sp',, 'swnnnl','pawnnllespawnnvv',spawnnvvestarttffil, 'stat', 'stat_float_times', 'stat_result', 'statvf _esulltt', strerroor' sys', syemmm', 'empnamm','imes,, 'tmpfile','mpnamm, mask,, 'linkkk', 'nsetennv' urandoomm',utime,, 'itpiiid','alk',, 'write']"
repr モジュール使用
>>> import os >>> import repr >>> repr.repr(dir(os)) "['F_OK', 'O_APPEND', 'O_BINARY', 'O_CREAT', 'O_EXCL', 'O_NOINHERIT', ...]"
pprint モジュール [pprint]
- pprint モジュール はビルトインおよびユーザ定義オブジェクトについて、インタプリタにより、もっと読みやすい出力を提供する。
- 1行で表示するには長すぎる場合、構造が明確になるように改行とインデントを挿入する。
ソース
import os
import pprint
# ディレクトリを走査し、階層構造を持ったリストを生成
def trav(path, fn=):
l = []
l.append(fn)
d = os.path.join(path,fn)
if os.path.isdir(d):
for f in os.listdir(d):
l.append(trav(d,f))
return l
l = trav('C:\\', 'Python25')
# 階層構造を持ったリストを出力
pprint.pprint(l, indent=4, width=80)
結果
[ 'Python25',
[ 'DLLs',
['bz2.pyd'],
['py.ico'],
['pyc.ico'],
～ 略 ～
['_ssl.pyd'],
['_testcapi.pyd'],
['_tkinter.pyd']],
[ 'Doc',
['about.html'],
['acks.html'],
[ 'api',
['about.html'],
['abstract-buffer.html'],
['boolObjects.html'],
['buffer-structs.html'],
～ 略 ～
textwrap モジュール [textwrap]
- textwrap モジュールは、文章の段落を画面幅に合わせるようにフォーマットする
>>> import textwrap >>> txt = """The pprint module offers more sophisticated control over printing ... both built-in and user defined objects in a way that is readable ... by the interpreter. When the result is longer than one line, ... the ``pretty printer adds line breaks and indentation to more ... clearly reveal data structure: """ >>> >>> print textwrap.fill(txt, width=20) The pprint module offers more sophisticated control over printing both built- in and user defined objects in a way that is readable by the interpreter. When the result is longer than one line, the ``pretty printer adds line breaks and indentation to more clearly reveal data structure:
locale module モジュール [locale]
- locale module モジュールは、文化圏特有の書式データベースにアクセスする
- 地域による数値の区切書式をlocale.format()関数から直接指定できる
- RFC1766
localeを使用する
>>> import locale
>>> locale.setlocale(locale.LC_ALL, 'ja-JP')
'Japanese_Japan.932'
>>> x = 1234567.8
>>> locale.format('%d', x , grouping=True)
'1,234,567'
>>> conv = locale.localeconv()
>>> locale.format('%s%.*f', (conv['currency_symbol'], conv['frac_digits'], x), grouping=True)
'\\1,234,568'
変換Map(locale.localeconv()) の内容
>>> import pprint
>>> pprint.pprint(conv)
{'currency_symbol': '\\',
'decimal_point': '.',
'frac_digits': 0,
'grouping': [3, 0],
'int_curr_symbol': 'JPY',
'int_frac_digits': 2,
'mon_decimal_point': '.',
'mon_grouping': [3, 0],
'mon_thousands_sep': ',',
'n_cs_precedes': 1,
'n_sep_by_space': 0,
'n_sign_posn': 3,
'negative_sign': '-',
'p_cs_precedes': 1,
'p_sep_by_space': 0,
'p_sign_posn': 3,
'positive_sign': ,
'thousands_sep': ','}
テンプレート
テンプレート[Template]
- string モジュールは、Template クラスを含んでいる。
- アプリケーションを変更することなしにカスタマイズできる
- プレイスホルダーの書式は、 $ + Pythonの識別子
- {}で囲むことで、スペースで区切られていなくても良い
- $$で、$をエスケープする
>>> from string import Template
>>> t = Template('<input type="$element_name" value="hello${element_value}world!" />')
>>> t.substitute(element_name='text', element_value=' python ')
'<input type="text" value="hello python world!" />'
substitute メソッド と safe_substituteメソッド
- substitute メソッドはプレースホルダーと置き換える値がが提供されない場合KeyErrorを引き起こす
- safe_substituteメソッドは、その場合、プレースホルダーをそのままにする。
>>> from string import Template
>>> t = Template('$field_a, $field_b')
>>> d = dict(field_a='FIELD_A')
>>> t.substitute(d)
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "C:\Python25\lib\string.py", line 170, in substitute
return self.pattern.sub(convert, self.template)
File "C:\Python25\lib\string.py", line 160, in convert
val = mapping[named]
KeyError: 'field_b'
>>> t.safe_substitute(d)
'FIELD_A, $field_b'
デリミタのカスタマイズ
- Templete のサブクラスでは、カスタムデリミタを使用できる。
>>> from string import Template
>>> class PctDlimTemplate(Template):
... delimiter = '%'
...
>>> t = PctDlimTemplate('<input type="%element_name" value="hello%{element_value}world!" />')
>>> t.substitute(element_name='text', element_value=' python ')
'<input type="text" value="hello python world!" />'
シリアライズ [pickle]
シリアライズする
Pythonオブジェクトをシリアライズする簡単な例
>>> d = { 'k1':123, 'k2':456, 'k3':789}
>>> d
{'k3': 789, 'k2': 456, 'k1': 123}
>>> import pickle
>>> f = open(r'c:\work\py\dat.txt', 'w')
>>> pickle.dump(d, f)
>>> f.close();
デシリアライズする
>>> f = open(r'c:\work\py\dat.txt')
>>> e = pickle.load(f)
>>> e
{'k3': 789, 'k2': 456, 'k1': 123}
バイナリデータレコードレイアウトでの作業 [struct]
- struct モジュールは pack() 、unpack() 関数を可変長のバイナリレコードフォーマットの作業用に提供する
>>> import struct
>>> struct.pack('hhl',1,2,3)
'\x01\x00\x02\x00\x03\x00\x00\x00'
>>> struct.unpack('hhl','\x01\x00\x02\x00\x03\x00\x00\x00')
(1, 2, 3)
>>> struct.calcsize('hhl')
8
書式
| 書式 | C言語の型 | Pythonの型 |
|---|---|---|
| x | pad byte | no value |
| c | char | string of length 1 |
| b | signed char | integer |
| B | unsigned char | integer |
| h | short | integer |
| H | unsigned short | integer |
| i | int | integer |
| I | unsigned int | long |
| l | long | integer |
| L | unsigned long | long |
| q | long long | long |
| Q | unsigned long long | long |
| f | float | float |
| d | double | float |
| s | char[] | string |
| p | char[] | string |
| P | void * | integer |
オブジェクトのコピー [copy]
浅いコピー
- リストやディクショナリは、オブジェクトのリファレンスを格納するため、ネストしている場合など、元オブジェクトの変更の影響を受ける。
- copy()メソッドや、リストであれば、[:] 表記を使ってオブジェクトをコピーすることができる。この場合、元オブジェクトとは別のオブジェクトが作成される
- これは浅いコピーなので、トップレベルのオブジェクトしかコピーされない。
コピー例
>>> l1 = [1] # 元オブジェクト
>>> l2 = [l1] # 元オブジェクトをそのままセット
>>> l3 = [l1[:]] # 元オブジェクトをコピーしてセット
>>> m1 = {1:l1, 2:l2, 3:l3}
>>> m1
{1: [1], 2: 1, 3: 1}
>>> l1[0] = 9 # 元オブジェクトを 1 -> 9 に変更
>>> m1
{1: [9], 2: 9, 3: 1} # コピーしたものは影響を受けない
ネストしたオブジェクトはコピーされていない
>>> m1
{1: [9], 2: 9, 3: 1}
>>> m2 = {4:m1.copy()} # コピーした内容をディクショナリに格納
>>> l1[0] = 10 # 大元の値を 9 -> 10 変更すると
>>> m2
{4: {1: [10], 2: 10, 3: 1}} # 反映されてしまう
深いコピー
- 深いコピーを行うには、copyモジュールの、deepcopy関数を使用する。
>>> import copy
>>> m1
{1: [10], 2: 10, 3: 1}
>>> m3 = {5:copy.deepcopy(m1)}
>>> m3
{5: {1: [10], 2: 10, 3: 1}}
>>> l1[0] = 99 # 大元オブジェクトを 10->99 に変更しても
>>> m3
{5: {1: [10], 2: 10, 3: 1}} # コピーした時点の値が保持されている
リストのコピー
>>> l = range(10) >>> k = l[:] >>> k
マルチスレッド [threading]
非同期にカウントアップ
ソース
#!python2.5
# -*- coding: utf-8 -*-
import threading
class AsyncCount(threading.Thread):
def __init__(self, prefix):
threading.Thread.__init__(self)
self.prefix = prefix
def run(self):
for i in range(50):
print '%s %d' % (self.prefix, i)
ac1 = AsyncCount('#Thread 1')
ac2 = AsyncCount('#Thread 2')
ac1.start()
ac2.start()
ac1.join() #タスクの終了を待つ
print 'Thread 1 work done'
ac2.join() #タスクの終了を待つ
print 'Thread 2 work done'
実行結果例
>python test.py
#Thread 1 0
#Thread 1 1
略
#Thread 1 26
#Thread 1 27
#Thread 2 0
#Thread 2 1
#Thread 2 2
略
#Thread 2 17
#Thread 2 18
#Thread 2 19 #Thread 1 28
#Thread 1 29
略
#Thread 1 43
#Thread 1 44
#Thread 2 20
#Thread 2 21
略
#Thread 2 34
#Thread 2 35
#Thread 1 45
略
#Thread 1 49
Thread 1 work done
#Thread 2 36
#Thread 2 37
略
#Thread 2 48
#Thread 2 49
Thread 2 work done
ロギング [logging]
単純な例
test.py
import logging
logging.warn("Hello")
logging.error("logging")
実行結果
>python test.py WARNING:root:Hello ERROR:root:logging
出力は設定可能
mymodule.py
import logging
log = logging.getLogger('MyModule')
log.setLevel(logging.WARN)
def doSomething():
log.debug("modlue's debugging log.")
log.info("modlue's information log.")
log.warn("modlue's warning log.")
log.error("modlue's error log.")
myapp.py
import logging, mymodule
logging.basicConfig()
log = logging.getLogger("MyApp")
log.setLevel(logging.DEBUG)
log.debug("app's debugging log.")
log.info("app's information log.")
log.warn("app's warning log.")
log.error("app's error log.")
mymodule.doSomething()
実行結果
>python myapp.py DEBUG:MyApp:app's debugging log. INFO:MyApp:app's information log. WARNING:MyApp:app's warning log. ERROR:MyApp:app's error log. WARNING:MyModule:modlue's warning log. ERROR:MyModule:modlue's error log.
XML Dom [xml.dom]
- 構造化マークアップツール
- xml.dom -- 文書オブジェクトモデル (DOM) API
RSSを解析する
import urllib2
import xml.dom.minidom
def get_text(node):
ret =
for child in node.childNodes:
if child.nodeType in (child.TEXT_NODE, child.CDATA_SECTION_NODE):
ret = ret + child.data
return ret
url = r'http://typea.info/blg/glob/atom.xml'
dom = xml.dom.minidom.parse(urllib2.urlopen(url))
root = dom.documentElement
entries = root.getElementsByTagName('entry')
for entry in entries:
for child in entry.childNodes:
if child.nodeName == 'title':
print get_text(child),
elif child.nodeName == 'link':
print child.getAttribute('href')
XML ElementTree [xml.etree]
- 構造化マークアップツール
- The Python Standard Library(The Element Interface)
- xml.etree.ElementTree ― ElementTree XML API
- ElementTree オブジェクト
- XMLの論考: PythonにおけるElementTreeのXMLプロセス
XPathを利用してElementTreeを解析
- Amazon Web Serviceを解析する例
例
import urllib2
from xml.etree import ElementTree
def qn(tag):
' xmlns を付加したタグ名を返す
return ElementTree.QName(ns, tag).text
ns = r'http://webservices.amazon.com/AWSECommerceService/2005-10-05'
# xmlnsが指定されている場合、タグを{xmlnsの値}タグ名 といちいち書く必要があるため、そのように展開したものを保持しておく
# ./{http://webservices.amazon.com/AWSECommerceService/2005-10-05}ItemAttributes/{http://webservices.amazon.com/AWSECommerceService/2005-10-05}Title
q_items = './/{0}'.format(qn('Item'))
q_title = './{0}/{1}'.format(qn('ItemAttributes'), qn('Title'))
q_author = './{0}/{1}'.format(qn('ItemAttributes'), qn('Author'))
q_asin = './{0}'.format(qn('ASIN'))
q_url = './{0}'.format(qn('DetailPageURL'))
q_img = './{0}/{1}'.format(qn('SmallImage'), qn('URL'))
# Amazon Product Advertise API リクエスト URL
request = r'http://ecs.amazonaws.jp/onca/xml?AWSAccessKeyId=1498TGK1YPN1JATPXXG2&AssociateTag=typea09-22&Keywords=%E6%89%8B%E5%A1%9A%E3%80%80%E6%B2%BB%E8%99%AB&Operation=ItemSearch&ResponseGroup=Large&SearchIndex=Books&Service=AWSECommerceService&Timestamp=2009-09-06T02%3A19%3A19.734000Z&Signature=%2B6Jp6e9Ne1o23gy8la6EcJx3f2UrDuZNKldALDaw9DU%3D'
# ElementTreeを生成
root = ElementTree.parse(urllib2.urlopen(request)).getroot()
# XPathを使用してElementTreeを解析
items = root.findall(q_items)
for item in items:
print '-' * 100
print 'TITLE : {0}'.format(item.find(q_title).text)
print 'AUTHOR : {0}'.format(item.find(q_author).text)
print 'ASIN : {0}'.format(item.find(q_asin).text)
print 'URL : {0}'.format(item.find(q_url).text)
print 'IMG : {0}'.format(item.find(q_img).text)
<blockquote>2.5系(GAE/Python)だと、str.formatが使えないため、q_items = './/%s' % qn('Item') とする必要あり。</blockquote>
結果
---------------------------------------------------------------------------------------------------- TITLE : MW(ムウ) (1) (小学館文庫) AUTHOR : 手塚 治虫 ASIN : 4091920047 URL : http://www.amazon.co.jp/MW-%E3%83%A0%E3%82%A6-%E5%B0%8F%E5%AD%A6%E9%A4%A8%E6%96%87%E5%BA%AB-%E6%89%8B%E5%A1%9A-%E6%B2%BB%E8%99%AB/dp/4091920047%3FSubscriptionId%3D1498TGK1YPN1JATPXXG2%26tag%3Dtypea09-22%26linkCode%3Dxm2%26camp%3D2025%26creative%3D165953%26creativeASIN%3D4091920047 IMG : http://ecx.images-amazon.com/images/I/21AWAK9R3WL._SL75_.jpg ---------------------------------------------------------------------------------------------------- TITLE : ブッダ全12巻漫画文庫 AUTHOR : 手塚 治虫 ASIN : 4267890021 URL : http://www.amazon.co.jp/%E3%83%96%E3%83%83%E3%83%80%E5%85%A812%E5%B7%BB%E6%BC%AB%E7%94%BB%E6%96%87%E5%BA%AB-%E6%89%8B%E5%A1%9A-%E6%B2%BB%E8%99%AB/dp/4267890021%3FSubscriptionId%3D1498TGK1YPN1JATPXXG2%26tag%3Dtypea09-22%26linkCode%3Dxm2%26camp%3D2025%26creative%3D165953%26creativeASIN%3D4267890021 IMG ::
データベースの使用 [sqlite3]
- http://www.python.jp/doc/nightly/library/sqlite3.html
- http://docs.python.jp/2.7/library/sqlite3.html
# -*- encoding: utf-8 -*- import sqlite3 con = sqlite3.connect('/work/py/test.db') #create database in RAM #con = sqlite3.connect(':memory:') con.execute("create table test (id text, value text, note text)") con.execute("insert into test values('1','aaa','01')") con.execute("insert into test values('2','bbb','02')") con.execute("insert into test values('3','ccc','01')") con.commit() p = ('01',) c = con.cursor() c.execute("select * from test where note=?", p) for r in c: print r con.close()
結果
(u'1', u'aaa', u'01') (u'3', u'ccc', u'01')
INSERT例
- タブ区切りのテキストファイルの内容をデータベースに投入
- integer primary key に None を渡すと auto number 扱い
conn = sqlite3.connect(r'c:\work\test.db') c = conn.cursor() create_ddl = """create table dict ( _id integer primary key, keyword text, content text, level integer ) """ c.execute(create_ddl) fd = open(r'c:\work\sorce.tsv', 'r') for l in fd: cols = l.rsplit('\t') print c.execute('insert into ejdict values(?,?,?,?)', (None, unicode(cols[0]), unicode(cols[1]), 0 ) conn.commit() fd.close()
UPDATE例
- 更新ファイル(キーと更新値を持つ)を読み込んで、UPDATE、なければINSERTする例
- rowcount は SELECT 時には使えない
conn = sqlite3.connect(r'C:\work\test.db') c = conn.cursor() ptn = re.compile(r'^(?P<LVL>[0-9])[ ](?P<WD>.+)') fd = open(r'C:\work\update.txt', 'r') for l in fd: m = ptn.match(l) if m: kw = unicode(m.group('WD')) lvl = m.group('LVL') c.execute("update dict set level=? where keyword=?", (lvl, kw)) if c.rowcount > 0: pass else: c.execute('insert into ejdict values(?,?,?,?)', (None, kw, , lvl)) print 'inserted {0}'.format(kw) conn.commit()
SELECT例
3つの方法
- カーソルをイテレータ(iterator)として扱う
- カーソルの fetchone() メソッドを呼んで一致した内の一行を取得する
- fetchall() メソッドを呼んで一致した全ての行のリストとして受け取る
iteratorの例
>>> c = conn.cursor()
>>> c.execute('select * from stocks order by price')
>>> for row in c:
... print row
...
(u'2006-01-05', u'BUY', u'RHAT', 100, 35.14)
(u'2006-03-28', u'BUY', u'IBM', 1000, 45.0)
(u'2006-04-06', u'SELL', u'IBM', 500, 53.0)
(u'2006-04-05', u'BUY', u'MSOFT', 1000, 72.0)
名前によるカラムの取得
conn = sqlite3.connect(r'C:\work\test.db') conn.row_factory = sqlite3.Row c = conn.cursor() c.execute("select * from dict") for r in c: # conn.row_factory = sqlite3.Row を行うことで、名前によるカラムの取得が可能になる # print r[0], r[1], r[2].decode('utf-8'), r[3] print r["_id"], r["keyword"], r["content"].decode('utf-8'), r['level']
件数を取得
cur = conn.cursor()
r = cur.execute("select count(key) from harai")
print r.fetchone()[0]
JSONエンコードとデコード [json]
UUIDを使用する
>>> import uuid
>>> uuid.uuid4()
UUID('68c6d889-a64e-4e94-86f0-14012fc90364')
メールを送信する
© 2006 矢木浩人
