交集(intersection)
example：
valid = set(['yellow', 'red', 'blue', 'green', 'black'])
input_set = set(['red', 'brown'])
print(input_set.intersection(valid))
### 输出：set(['red'])
# 方法一:
>>> a=[2,3,4,5]
>>> b=[2,5,8]
>>> tmp = [val for val in a if val in b]
>>> tmp
[2, 5]
# 方法二
>>> list(set(a).intersection(set(b)))
[2, 5]
# 方法三：
>>>list(set(a) & set(b))
[2, 5]字符串交集
# 方法一：
''.join(sorted(set(str1) & set(str2), key = str1.index))
# 方法二：
def strIntersection(s1, s2):
out = ""
for c in s1:
if c in s2 and not c in out:
out += c
return out
# 方法三：
>>> a='asdfasdfasfd'
>>> b='qazwsxedc'
>>> set(a).intersection(b)
set(['a', 's', 'd'])
# 方法四：
def hasIntersection(a, b):
return not set(a).isdisjoint(b)最大交集
How to find all intersections (also called the longest common substrings) of two strings and their positions in both strings?
For example:
if S1=”never” and S2=”forever” then resulted intersection must be [“ever”] and its positions are [(1,3)].
If S1=”address” and S2=”oddness” then resulted intersections are [“dd”,”ess”] and their positions are [(1,1),(4,4)].
# 方法一：
In [31]: import difflib
In [32]: difflib.SequenceMatcher(None, "never", "forever").get_matching_blocks()
Out[32]: [Match(a=1, b=3, size=4), Match(a=5, b=7, size=0)]
In [33]: difflib.SequenceMatcher(None, "address", "oddness").get_matching_blocks()
Out[33]: [Match(a=1, b=1, size=2), Match(a=4, b=4, size=3), Match(a=7, b=7, size=0)]
# 方法二：
import itertools
def longest_common_substring(s1, s2):
set1 = set(s1[begin:end] for (begin, end) in
itertools.combinations(range(len(s1)+1), 2))
set2 = set(s2[begin:end] for (begin, end) in
itertools.combinations(range(len(s2)+1), 2))
common = set1.intersection(set2)
maximal = [com for com in common
if sum((s.find(com) for s in common)) == -1 * (len(common)-1)]
return [(s, s1.index(s), s2.index(s)) for s in maximal]
>>> longest_common_substring('address', 'oddness')
[('dd', 1, 1), ('ess', 4, 4)]
>>> longest_common_substring('never', 'forever')
[('ever', 1, 3)]
>>> longest_common_substring('call', 'wall')
[('all', 1, 1)]
>>> longest_common_substring('abcd1234', '1234abcd')
[('abcd', 0, 4), ('1234', 4, 0)]并集(union)
# 方法一：
>>> list(set(a).union(set(b)))
[2, 3, 4, 5, 8]
# 方法二：
>>> list(set(b) | (set(a)))
[2, 3, 4, 5, 8]差集(difference)
差集：找出无效的数据，相当于用一个集合减去另一个集合的数据。
# example：
valid = set(['yellow', 'red', 'blue', 'green', 'black'])
input_set = set(['red', 'brown'])
print(input_set.difference(valid))
### 输出: set(['brown'])
# 方法一：
>>> list(set(b).difference(set(a))) # b中有而a中没有的
[8]
# 方法二：
>>> list(set(b) - (set(a)))
[8]集合操作汇总
>>> x = set('abcde')
>>> y = set('bdxyz')
>>> x
set(['a', 'c', 'b', 'e', 'd']) # 2.6 display format
>>> 'e' in x # Membership 成员
True
>>> x – y # Difference 差集
set(['a', 'c', 'e'])
>>> x | y # Union 并集
set(['a', 'c', 'b', 'e', 'd', 'y', 'x', 'z'])
>>> x & y # Intersection 交集
set(['b', 'd'])
>>> x ^ y # Symmetric difference (XOR) 补集
set(['a', 'c', 'e', 'y', 'x', 'z'])
>>> x > y, x < y # Superset, subset 父级，子级
(False, False)巨型集合处理（数量在百万，千万甚至更大）
方法一：set
特点：
- 速度快；
- 内存消耗大，一个1万个元素的集合，其占用的内存远大于1万 * 每个元素的大小，因为整个set数据结构占用大量其他空间来存储索引之类的东西。
并集：s.union(t) 或者 s | t
交集：s.intersection(t) 或者 s & t
差集：s.difference(t) 或者 s - t方法二：Numpy
特点：
- 先把要操作的元素放在数组而不是set中，同样内容的数组占用的内存比set小的多；占用内存小于set的方式；
- 速度接近set方式。
import numpy as np
并集： np.union1d(s, t) # 返回排序的、去重的两个list的合集
交集： np.intersect1d(s, t, assume_unique=True) # 返回排序的、去重的两个list的交集，尽可能保证传入的两个list是去重的，这可以加快运算速度。
差集： np.setdiff1d(s, t, assume_unique=True) # 返回排序的，去重的差集，assume_unique参数同上。方法三：cmd
以上两种方法的缺点就是当集合足够大而内存又不够的时候，会MemoryError（在试验中2000万个长度为24的字符串在4G的内存中就报MemoryError了）；
解决办法：使用linux 命令。
特点：
- 内存消耗小，会使用临时文件来避免内存问题；
- 耗时长。
1.文件排序，使用sort命令：
sort --buffer-size=1G --output=/path/to/output /path/to/src_file # --buffer-size在Debian上可用，其他平台未知，不是标准参数.
并集：sort -m /path/to/src1 /path/tosrc2 -u --output=/path/to/result # 注意src1, src2必须是已排序的文件，而且结果也是已排序的。
交集：comm -12 file1 file2 > output # 使用comm命令，注意传入的文件必须都是已排序的。
差集：comm -3 file1 file2 > output # 使用comm命令，注意传入的文件必须都是已排序的。综上，三种方法依次对内存的依赖减小，耗时增加，可依据集合大小以及硬件环境来选择。
作者：Chihwei_hsu
来源：http://chihweihsu.com
Github：https://github.com/HsuChihwei