python高级之内建函数

1 内建函数(xxx)


背景:为什么要有这种带下划线的内建函数,个人认为这种内建函数开放了很多Python的特殊用法,只要详尽掌握,就会理解平时用到的数据结构是复写了什么方法,自己也可以写出类似set,dqueue,dict,list的数据类型方法。

1.1 类似字典的操作方式,getitem,setitem,delitem

我们熟悉的字典是可以像如下方式操作赋值取值:

d = dict()
d["a"] = 1
d["b"] = 2
print (d)
del d["a"]
print (d)

其实像这种赋值方式就是复写了setitem,getitem,delitem请见如下类

class TestDict(object):

   def __getitem__(self,key):
       return self.__dict__.get(key)

   def __setitem__(self,key,value):
       self.__dict__[key] = value

   def __delitem__(self,key):
       self.__dict__.pop(key)

td = TestDict()
td["a"] = 1
td["b"] = 2
print (td["a"])
print (td.__dict__)
del td["a"]
print (td.__dict__)

为了更加灵活,如上代码也可以在对象执行赋值方法(init)的时候声明个变量d = dict(),然后对这个变量进行赋值和取值操作也可以模拟上面的操作。

1.2 newinit

new: 在类实例化的时候调用,用来创建实例,如果不返回实例那么init将不会执行,第一个参数是class对象,在创建实例的时候需要有返回值

init: 在初始化实例的时候调用,比如说实例属性赋值,第一个参数是实例对象,一般都重写init方法,在执行的时候不需要返回值

class TestNew(object):
    def __new__(cls, *args, **kwargs):
        print '__new__ called.'
        return super(TestNew,cls).__new__(cls,*args,**kwargs)
    def __init__(self):
        print '__init__ called.'
        self.a = 1

tn = TestNew()
print (tn.a)

可以用new来实现单例模式

        def __new__(cls):
            # 关键在于这,每一次实例化的时候,我们都只会返回这同一个instance对象
            if not hasattr(cls, 'instance'):
                cls.instance = super(Singleton, cls).__new__(cls)
            return cls.instance

obj1 = Singleton()
obj2 = Singleton()

obj1.attr1 = 'value1'
print (obj1.attr1, obj2.attr1)
print (obj1 is obj2)

Tips: 单例模式有很多种实现方式,也可以通过类变量+静态方法的方式实现。

可以通过重载new来实现很多创建实例时的功能。

1.3 iter,next(python2),next(python3)

  • iter: 复写这个函数的对象是可迭代对象

  • next/next: 复写这个函数的对象都是一个迭代器

class TestIterNext(object):
    def __init__(self,data=1):
        self.data = data

    def next(self):
        if self.data > 5:
            raise StopIteration
        else:
            self.data+=1
            return self.data

    def __iter__(self):
        print ("iter")
        return (self)

当for循环去迭代tin = TestIterNext()对象的时候第一步会去看iter是否返回一个生成器(generator),如果返回的是对象本身才会去执行next函数。

1.4 call

把一个类实例的对象当做函数一样调用就是复写了call方法,如下:

class TestCall(object):
    def __call__(self):
        print "call it"
tc = TestCall()
tc()

1.5 repr,str

reprstr没有太大区别,在Python交互模式下才能发现。复写改方法后输出对象就是按照该方法里的内容进行输出。在类里可以这样用repr = str

1.6 all

可用于模块导入时限制,,当我们from module import *的时候这个all就起作用了,all=[“bar”,”sar”] ,[]里定义函数或者变量类等,有些模块内部一些函数不对外开放,此时把一些对外开放的函数变量放入到all里就可以了,这样避免了一些多余的导入。如果在init.py里定义则在导入模块的时候只导入all里定义的各个文件,此时无法定义到文件里具体哪个类或方法,如果需要细化则需要在具体的类里写入all。如果是from module import Test这种使用不受all限制

1.7 setattr,getattr,delattr
  • setattr: 对变量赋值时调用。

  • getattr:默认查找对象属性是在一个字典里(dict),这里没有要查找的对象则去getattr方法里查找,如果我们复写getattr则可以根据实际需求来返回值。

  • delattr:删除属性时调用。

class TestAttr(object):
    def __init__(self):
        self.name = "abc"

    def __getattr__(self, item):
        print ("item:" + str(item))
        print ("getattr")
        return (10)
    def __setattr__(self, *args, **kwargs):
        print ("set attr")
        object.__setattr__(self,*args,**kwargs)

    def __delattr__(self, *args, **kwargs):
        print ("delete attr")
        object.__delattr__(self,*args, **kwargs)

ta = TestAttr()
print (ta.__dict__)
print (ta.names)
del ta.name
print (ta.__dict__)
1.8 le,lt,ge,gt,ne,eq

一个对象和另一个对象比较大小,返回的并不一定是True和False,返回值有可能是我们定义的任何值,这里就是复写上面这些方法。如下:

class TestCompare(object):
    def __lt__(self, other):
        return "aaa"

t = TestCompare()
print t<1

这里打印出的就不是True和False,打印的是我们再复写的方法里定义的”aaa”,其实有一些常用的orm,比如说sqlalchemy里查询条件可以这样写

g.pg_db.query(Company.id).filter(Company.level_id == level)

这里的Company.level_id == level返回的就是筛选条件,因为对Company的level_id对象复写了eq

1.9 slots

优点:

 1,更快的属性访问速度

  2,减少内存消耗

每个类里都维护一个字典dict,这个字典维护了对象的所有属性,但如果成千上万个对象则就会创建很多个dict来存放对象属性,为了性能我们可以不用Python帮我们维护这个字典。此时我们在类里定义slots = [“name”,”age”]的时候就表示禁用了dict,并限定name和age为类的属性(类里只能有name和age属性),这样做的好处能大大节省内存开支,对象越多节省的就越多,大概能节省40%以上。

class TestSlots(object):
    __slots__ = ["name","age"]
    def __init__(self, name, age):
        self.name = name
        self.age = age

ts = TestSlots("a",1)
ts.name = 1
print (ts.name)
2.0 metaclass

在理解元类之前,你需要先掌握Python中的类。Python中类的概念借鉴于Smalltalk,这显得有些奇特。在大多数编程语言中,类就是一组用来描述如何生成一个对象的代码段。在Python中这一点仍然成立

元类是什么?

但就元类本身而言,它们其实是很简单的:

   1)   拦截类的创建

   2)   修改类

   3)   返回修改之后的类

但是,Python中的类还远不止如此。类同样也是一种对象。是的,没错,就是对象。只要你使用关键字class,Python解释器在执行的时候就会创建一个对象。下面的代码段:

class ObjectCreator(object):
    pass

将在内存中创建一个对象,名字就是ObjectCreator。这个对象(类)自身拥有创建对象(类实例)的能力,而这就是为什么它是一个类的原因。但是,它的本质仍然是一个对象,于是乎你可以对它做如下的操作:

1)   你可以将它赋值给一个变量

2)   你可以拷贝它

3)   你可以为它增加属性

4)   你可以将它作为函数参数进行传递

下面是示例:

print ObjectCreator
 # 你可以打印一个类,因为它其实也是一个对象
def echo(o):
    print (o)

echo(ObjectCreator)

 # 你可以将类做为参数传给函数
print hasattr(ObjectCreator, 'new_attribute')
ObjectCreator.new_attribute = 'foo'
  # 你可以为类增加属性
print hasattr(ObjectCreator, 'new_attribute')
print (ObjectCreator.new_attribute)
ObjectCreatorMirror = ObjectCreator
 # 你可以将类赋值给一个变量
print (ObjectCreatorMirror())

动态地创建类

因为类也是对象,你可以在运行时动态的创建它们,就像其他任何对象一样。首先,你可以在函数中创建类,使用class关键字即可。

def choose_class(name):
    if name == 'foo':
        class Foo(object):
            pass
        return Foo     
 # 返回的是类,不是类的实例
    else:
        class Bar(object):
            pass
        return Bar
MyClass = choose_class('foo')
print MyClass              
 # 函数返回的是类,不是类的实例>>> print MyClass()            
 # 你可以通过这个类创建类实例,也就是对象
 # <__main__.foo object="" at="" 0x89c6d4c="">

但这还不够动态,因为你仍然需要自己编写整个类的代码。由于类也是对象,所以它们必须是通过什么东西来生成的才对。当你使用class关键字时,Python解释器自动创建这个对象。但就和Python中的大多数事情一样,Python仍然提供给你手动处理的方法。还记得内建函数type吗?这个古老但强大的函数能够让你知道一个对象的类型是什么,就像这样:

print type(1)
print type("1")
print type(ObjectCreator)
print type(ObjectCreator())

这里,type有一种完全不同的能力,它也能动态的创建类。type可以接受一个类的描述作为参数,然后返回一个类。(我知道,根据传入参数的不同,同一个函数拥有两种完全不同的用法是一件很傻的事情,但这在Python中是为了保持向后兼容性)

type可以像这样工作:

type(类名, 父类的元组(针对继承的情况,可以为空),包含属性的字典(名称和值))

比如下面的代码:

class MyShinyClass(object):
    pass

MyShinyClass = type('MyShinyClass', (), {})  
 # 返回一个类对象
print MyShinyClass
print MyShinyClass()  
 #  创建一个该类的实例
 # <__main__.myshinyclass object="" at="" 0x8997cec="">

你会发现我们使用“MyShinyClass”作为类名,并且也可以把它当做一个变量来作为类的引用。类和变量是不同的,这里没有任何理由把事情弄的复杂。

type 接受一个字典来为类定义属性,因此

class Foo(object):
    bar = True
 # 可以翻译为:

Foo = type('Foo', (), {'bar':True})

为类增加方法。只需要定义一个有着恰当签名的函数并将其作为属性赋值就可以了。


def echo_bar(self):
    print self.bar

FooChild = type('FooChild', (Foo,), {'echo_bar': echo_bar})
hasattr(Foo, 'echo_bar')
False
hasattr(FooChild, 'echo_bar')
True
my_foo = FooChild()
my_foo.echo_bar()
True

你可以看到,在Python中,类也是对象,你可以动态的创建类。这就是当你使用关键字class时Python在幕后做的事情,而这就是通过元类来实现的。

到底什么是元类?
元类就是用来创建类的“东西”。你创建类就是为了创建类的实例对象,不是吗?但是我们已经学习到了Python中的类也是对象。好吧,元类就是用来创建这些类(对象)的,元类就是类的类,你可以这样理解为:

MyClass = MetaClass()
MyObject = MyClass()

你已经看到了type可以让你像这样做:

MyClass = type('MyClass', (), {})

这是因为函数type实际上是一个元类。type就是Python在背后用来创建所有类的元类。现在你想知道那为什么type会全部采用小写形式而不是Type呢?好吧,我猜这是为了和str保持一致性,str是用来创建字符串对象的类,而int是用来创建整数对象的类。type就是创建类对象的类。你可以通过检查class属性来看到这一点。Python中所有的东西,注意,我是指所有的东西——都是对象。这包括整数、字符串、函数以及类。它们全部都是对象,而且它们都是从一个类创建而来。

age = 35
 age.__class__
name = 'bob'
 name.__class__
 def foo(): pass
foo.__class__
class Bar(object): pass
b = Bar()
b.__class__

现在,对于任何一个classclass属性又是什么呢?

a.__class__.__class__
 age.__class__.__class__
foo.__class__.__class__
b.__class__.__class__

因此,元类就是创建类这种对象的东西。如果你喜欢的话,可以把元类称为“类工厂”(不要和工厂类搞混了:D) type就是Python的内建元类,当然了,你也可以创建自己的元类。

metaclass__属性
你可以在写一个类的时候为其添加metaclass属性。

class Foo(object):
    __metaclass__ = something…
[…]

如果你这么做了,Python就会用元类来创建类Foo。小心点,这里面有些技巧。你首先写下class Foo(object),但是类对象Foo还没有在内存中创建。Python会在类的定义中寻找metaclass属性,如果找到了,Python就会用它来创建类Foo,如果没有找到,就会用内建的type来创建这个类。把下面这段话反复读几次。当你写如下代码时 :

class Foo(Bar):

    pass

Python做了如下的操作:

Foo中有metaclass这个属性吗?如果是,Python会在内存中通过metaclass创建一个名字为Foo的类对象(我说的是类对象,请紧跟我的思路)。如果Python没有找到metaclass,它会继续在Bar(父类)中寻找metaclass属性,并尝试做和前面同样的操作。如果Python在任何父类中都找不到metaclass,它就会在模块层次中去寻找metaclass,并尝试做同样的操作。如果还是找不到metaclass,Python就会用内置的type来创建这个类对象。

现在的问题就是,你可以在metaclass中放置些什么代码呢?答案就是:可以创建一个类的东西。那么什么可以用来创建一个类呢?type,或者任何使用到type或者子类化type的东东都可以。

自定义元类
元类的主要目的就是为了当创建类时能够自动地改变类。通常,你会为API做这样的事情,你希望可以创建符合当前上下文的类。假想一个很傻的例子,你决定在你的模块里所有的类的属性都应该是大写形式。有好几种方法可以办到,但其中一种就是通过在模块级别设定metaclass。采用这种方法,这个模块中的所有类都会通过这个元类来创建,我们只需要告诉元类把所有的属性都改成大写形式就万事大吉了。

幸运的是,metaclass实际上可以被任意调用,它并不需要是一个正式的类(我知道,某些名字里带有‘class’的东西并不需要是一个class,画画图理解下,这很有帮助)。所以,我们这里就先以一个简单的函数作为例子开始。

 # 元类会自动将你通常传给‘type’的参数作为自己的参数传入


def upper_attr(future_class_name, future_class_parents, future_class_attr):

'''返回一个类对象,将属性都转为大写形式'''

 #  选择所有不以'__'开头的属性
    attrs = ((name, value) for name, value in future_class_attr.items() if not name.startswith('__'))

 # 将它们转为大写形式
    uppercase_attr = dict((name.upper(), value) for name, value in attrs)


 # 通过'type'来做类对象的创建
    return type(future_class_name, future_class_parents, uppercase_attr)

__metaclass__ = upper_attr  
 #  这会作用到这个模块中的所有类

class Foo(object):

 # 我们也可以只在这里定义__metaclass__,这样就只会作用于这个类中
    bar = 'bip'
print hasattr(Foo, 'bar')
 # 输出: False
print hasattr(Foo, 'BAR')
 # 输出:True

f = Foo()
print f.BAR
 # 输出:'bip'

现在让我们再做一次,这一次用一个真正的class来当做元类。
# 请记住,’type’实际上是一个类,就像’str’和’int’一样
# 所以,你可以从type继承
class UpperAttrMetaClass(type):

# new 是在init之前被调用的特殊方法

# new是用来创建对象并返回之的方法

# 而init只是用来将传入的参数初始化给对象

# 你很少用到new,除非你希望能够控制对象的创建

# 这里,创建的对象是类,我们希望能够自定义它,所以我们这里改写new

# 如果你希望的话,你也可以在init中做些事情

# 还有一些高级的用法会涉及到改写call特殊方法,但是我们这里不用

    def __new__(upperattr_metaclass, future_class_name, future_class_parents, future_class_attr):
        attrs = ((name, value) for name, value in future_class_attr.items() if not name.startswith('__'))
        uppercase_attr = dict((name.upper(), value) for name, value in attrs)
        return type(future_class_name, future_class_parents, uppercase_attr)

但是,这种方式其实不是OOP。我们直接调用了type,而且我们没有改写父类的new方法。现在让我们这样去处理:

class UpperAttrMetaclass(type):
    def __new__(upperattr_metaclass, future_class_name, future_class_parents, future_class_attr):
        attrs = ((name, value) for name, value in future_class_attr.items() if not name.startswith('__'))
        uppercase_attr = dict((name.upper(), value) for name, value in attrs)


 # 复用type.__new__方法

 # 这就是基本的OOP编程,没什么魔法

        return type.__new__(upperattr_metaclass, future_class_name, future_class_parents, uppercase_attr)

你可能已经注意到了有个额外的参数upperattr_metaclass,这并没有什么特别的。类方法的第一个参数总是表示当前的实例,就像在普通的类方法中的self参数一样。当然了,为了清晰起见,这里的名字我起的比较长。但是就像self一样,所有的参数都有它们的传统名称。因此,在真实的产品代码中一个元类应该是像这样的:

class UpperAttrMetaclass(type):
    def __new__(cls, name, bases, dct):
        attrs = ((name, value) for name, value in dct.items() if not name.startswith('__')
        uppercase_attr  = dict((name.upper(), value) for name, value in attrs)
        return type.__new__(cls, name, bases, uppercase_attr)

如果使用super方法的话,我们还可以使它变得更清晰一些,这会缓解继承(是的,你可以拥有元类,从元类继承,从type继承)

class UpperAttrMetaclass(type):
    def __new__(cls, name, bases, dct):
        attrs = ((name, value) for name, value in dct.items() if not name.startswith('__'))
        uppercase_attr = dict((name.upper(), value) for name, value in attrs)
        return super(UpperAttrMetaclass, cls).__new__(cls, name, bases, uppercase_attr)

用元类实现单例模式

class Singleone(type):

    def __init__(cls, name,bases,dct):
        super(Singleone, cls).__init__(name,bases,dct)

        cls._instance = None

    def __call__(cls, *args, **kwargs):
        if cls._instance is None:
            cls._instance = super(Singleone,cls).__call__(*args,**kwargs)
        return cls._instance

class One(object):
    __metaclass__ = Singleone
    def __init__(self,*args, **kwargs):
        self.name = args[0]

o = One("a")
print o.name
b = One("b")
print b.name

执行步骤从上到下当执行用Singleone创建One类,One = Singleone(…),当实例化Singleone的时候执行其内部的init()方法,代码
继续解析到o = One(“a”)的时候示例化了One类,相当于Singleone()(),此时执行Singleone里面的call方法,在call方法里需要有
返回值。也可以在call里主动实例化(new)One并调用里面的init方法。

就是这样,除此之外,关于元类真的没有别的可说的了。使用到元类的代码比较复杂,这背后的原因倒并不是因为元类本身,而是因为你通常会使用元类去做一些晦涩的事情,依赖于自省,控制继承等等。确实,用元类来搞些“黑暗魔法”是特别有用的,因而会搞出些复杂的东西来。

为什么要用metaclass类而不是函数?

由于metaclass可以接受任何可调用的对象,那为何还要使用类呢,因为很显然使用类会更加复杂啊?这里有好几个原因:

1) 意图会更加清晰。当你读到UpperAttrMetaclass(type)时,你知道接下来要发生什么。

2) 你可以使用OOP编程。元类可以从元类中继承而来,改写父类的方法。元类甚至还可以使用元类。

3) 你可以把代码组织的更好。当你使用元类的时候肯定不会是像我上面举的这种简单场景,通常都是针对比较复杂的问题。将多个方法归总到一个类中会很有帮助,也会使得代码更容易阅读。

4) 你可以使用new, init以及call这样的特殊方法。它们能帮你处理不同的任务。就算通常你可以把所有的东西都在new里处理掉,有些人还是觉得用init更舒服些。

5) 哇哦,这东西的名字是metaclass,肯定非善类,我要小心!

“元类就是深度的魔法,99%的用户应该根本不必为此操心。如果你想搞清楚究竟是否需要用到元类,那么你就不需要它。那些实际用到元类的人都非常清楚地知道他们需要做什么,而且根本不需要解释为什么要用元类。” —— Python界的领袖 Tim Peters

元类的主要用途是创建API。一个典型的例子是Django ORM。它允许你像这样定义:

class Person(models.Model):
    name = models.CharField(max_length=30)
    age = models.IntegerField()

这并不会返回一个IntegerField对象,而是会返回一个int,甚至可以直接从数据库中取出数据。这是有可能的,因为models.Model定义了metaclass, 并且使用了一些魔法能够将你刚刚定义的简单的Person类转变成对数据库的一个复杂hook。Django框架将这些看起来很复杂的东西通过暴露出一个简单的使用元类的API将其化简,通过这个API重新创建代码,在背后完成真正的工作。

结语

首先,你知道了类其实是能够创建出类实例的对象。好吧,事实上,类本身也是实例,当然,它们是元类的实例。

Python中的一切都是对象,它们要么是类的实例,要么是元类的实例,除了type。type实际上是它自己的元类,在纯Python环境中这可不是你能够做到的,这是通过在实现层面耍一些小手段做到的。其次,元类是很复杂的。对于非常简单的类,你可能不希望通过使用元类来对类做修改。你可以通过其他两种技术来修改类:

1) Monkey patching

2) class decorators

当你需要动态修改类时,99%的时间里你最好使用上面这两种技术。当然了,其实在99%的时间里你根本就不需要动态修改类

猜你喜欢

转载自blog.csdn.net/qq_41333582/article/details/82467552