OSDN Git Service

P2P: fixed node startup id (#1573)
[bytom/bytom.git] / p2p / switch.go
index 275b57a..ec4b73d 100644 (file)
@@ -1,6 +1,7 @@
 package p2p
 
 import (
+       "encoding/hex"
        "encoding/json"
        "fmt"
        "net"
@@ -8,19 +9,23 @@ import (
        "time"
 
        log "github.com/sirupsen/logrus"
-       crypto "github.com/tendermint/go-crypto"
+       "github.com/tendermint/go-crypto"
        cmn "github.com/tendermint/tmlibs/common"
        dbm "github.com/tendermint/tmlibs/db"
 
        cfg "github.com/bytom/config"
+       "github.com/bytom/consensus"
        "github.com/bytom/errors"
        "github.com/bytom/p2p/connection"
+       "github.com/bytom/p2p/discover"
        "github.com/bytom/p2p/trust"
+       "github.com/bytom/version"
 )
 
 const (
-       bannedPeerKey      = "BannedPeer"
-       defaultBanDuration = time.Hour * 1
+       bannedPeerKey       = "BannedPeer"
+       defaultBanDuration  = time.Hour * 1
+       minNumOutboundPeers = 3
 )
 
 //pre-define errors for connecting fail
@@ -28,19 +33,13 @@ var (
        ErrDuplicatePeer     = errors.New("Duplicate peer")
        ErrConnectSelf       = errors.New("Connect self")
        ErrConnectBannedPeer = errors.New("Connect banned peer")
+       ErrConnectSpvPeer    = errors.New("Outbound connect spv peer")
 )
 
-// An AddrBook represents an address book from the pex package, which is used to store peer addresses.
-type AddrBook interface {
-       AddAddress(*NetAddress, *NetAddress) error
-       AddOurAddress(*NetAddress)
-       MarkGood(*NetAddress)
-       RemoveAddress(*NetAddress)
-       SaveToFile() error
+type discv interface {
+       ReadRandomNodes(buf []*discover.Node) (n int)
 }
 
-//-----------------------------------------------------------------------------
-
 // Switch handles peer connections and exposes an API to receive incoming messages
 // on `Reactors`.  Each `Reactor` is responsible for handling incoming messages of one
 // or more `Channels`.  So while sending outgoing messages is typically performed on the peer,
@@ -48,7 +47,7 @@ type AddrBook interface {
 type Switch struct {
        cmn.BaseService
 
-       Config       *cfg.P2PConfig
+       Config       *cfg.Config
        peerConfig   *PeerConfig
        listeners    []Listener
        reactors     map[string]Reactor
@@ -58,35 +57,69 @@ type Switch struct {
        dialing      *cmn.CMap
        nodeInfo     *NodeInfo             // our node info
        nodePrivKey  crypto.PrivKeyEd25519 // our node privkey
-       addrBook     AddrBook
+       discv        discv
        bannedPeer   map[string]time.Time
        db           dbm.DB
        mtx          sync.Mutex
 }
 
-// NewSwitch creates a new Switch with the given config.
-func NewSwitch(config *cfg.P2PConfig, addrBook AddrBook, trustHistoryDB dbm.DB) *Switch {
+// NewSwitch create a new Switch and set discover.
+func NewSwitch(config *cfg.Config) (*Switch, error) {
+       var err error
+       var l Listener
+       var listenAddr string
+       var discv *discover.Network
+
+       blacklistDB := dbm.NewDB("trusthistory", config.DBBackend, config.DBDir())
+       config.P2P.PrivateKey, err = config.NodeKey()
+       if err != nil {
+               return nil, err
+       }
+
+       bytes, err := hex.DecodeString(config.P2P.PrivateKey)
+       if err != nil {
+               return nil, err
+       }
+
+       var newKey [64]byte
+       copy(newKey[:], bytes)
+       privKey := crypto.PrivKeyEd25519(newKey)
+       if !config.VaultMode {
+               // Create listener
+               l, listenAddr = GetListener(config.P2P)
+               discv, err = discover.NewDiscover(config, &privKey, l.ExternalAddress().Port)
+               if err != nil {
+                       return nil, err
+               }
+       }
+
+       return newSwitch(config, discv, blacklistDB, l, privKey, listenAddr)
+}
+
+// newSwitch creates a new Switch with the given config.
+func newSwitch(config *cfg.Config, discv discv, blacklistDB dbm.DB, l Listener, priv crypto.PrivKeyEd25519, listenAddr string) (*Switch, error) {
        sw := &Switch{
                Config:       config,
-               peerConfig:   DefaultPeerConfig(config),
+               peerConfig:   DefaultPeerConfig(config.P2P),
                reactors:     make(map[string]Reactor),
                chDescs:      make([]*connection.ChannelDescriptor, 0),
                reactorsByCh: make(map[byte]Reactor),
                peers:        NewPeerSet(),
                dialing:      cmn.NewCMap(),
-               nodeInfo:     nil,
-               addrBook:     addrBook,
-               db:           trustHistoryDB,
+               nodePrivKey:  priv,
+               discv:        discv,
+               db:           blacklistDB,
+               nodeInfo:     NewNodeInfo(config, priv.PubKey().Unwrap().(crypto.PubKeyEd25519), listenAddr),
+               bannedPeer:   make(map[string]time.Time),
        }
-       sw.BaseService = *cmn.NewBaseService(nil, "P2P Switch", sw)
-       sw.bannedPeer = make(map[string]time.Time)
-       if datajson := sw.db.Get([]byte(bannedPeerKey)); datajson != nil {
-               if err := json.Unmarshal(datajson, &sw.bannedPeer); err != nil {
-                       return nil
-               }
+       if err := sw.loadBannedPeers(); err != nil {
+               return nil, err
        }
+
+       sw.AddListener(l)
+       sw.BaseService = *cmn.NewBaseService(nil, "P2P Switch", sw)
        trust.Init()
-       return sw
+       return sw, nil
 }
 
 // OnStart implements BaseService. It starts all the reactors, peers, and listeners.
@@ -99,6 +132,7 @@ func (sw *Switch) OnStart() error {
        for _, listener := range sw.listeners {
                go sw.listenerRoutine(listener)
        }
+       go sw.ensureOutboundPeersRoutine()
        return nil
 }
 
@@ -120,18 +154,17 @@ func (sw *Switch) OnStop() {
 }
 
 //AddBannedPeer add peer to blacklist
-func (sw *Switch) AddBannedPeer(peer *Peer) error {
+func (sw *Switch) AddBannedPeer(ip string) error {
        sw.mtx.Lock()
        defer sw.mtx.Unlock()
 
-       key := peer.NodeInfo.RemoteAddrHost()
-       sw.bannedPeer[key] = time.Now().Add(defaultBanDuration)
-       datajson, err := json.Marshal(sw.bannedPeer)
+       sw.bannedPeer[ip] = time.Now().Add(defaultBanDuration)
+       dataJSON, err := json.Marshal(sw.bannedPeer)
        if err != nil {
                return err
        }
 
-       sw.db.Set([]byte(bannedPeerKey), datajson)
+       sw.db.Set([]byte(bannedPeerKey), dataJSON)
        return nil
 }
 
@@ -141,11 +174,14 @@ func (sw *Switch) AddBannedPeer(peer *Peer) error {
 // NOTE: This performs a blocking handshake before the peer is added.
 // CONTRACT: If error is returned, peer is nil, and conn is immediately closed.
 func (sw *Switch) AddPeer(pc *peerConn) error {
-       peerNodeInfo, err := pc.HandshakeTimeout(sw.nodeInfo, time.Duration(sw.peerConfig.HandshakeTimeout*time.Second))
+       peerNodeInfo, err := pc.HandshakeTimeout(sw.nodeInfo, sw.peerConfig.HandshakeTimeout)
        if err != nil {
                return err
        }
 
+       if err := version.Status.CheckUpdate(sw.nodeInfo.Version, peerNodeInfo.Version, peerNodeInfo.RemoteAddr); err != nil {
+               return err
+       }
        if err := sw.nodeInfo.CompatibleWith(peerNodeInfo); err != nil {
                return err
        }
@@ -155,12 +191,17 @@ func (sw *Switch) AddPeer(pc *peerConn) error {
                return err
        }
 
+       if pc.outbound && !peer.ServiceFlag().IsEnable(consensus.SFFullNode) {
+               return ErrConnectSpvPeer
+       }
+
        // Start peer
        if sw.IsRunning() {
                if err := sw.startInitPeer(peer); err != nil {
                        return err
                }
        }
+
        return sw.peers.Add(peer)
 }
 
@@ -199,12 +240,12 @@ func (sw *Switch) DialPeerWithAddress(addr *NetAddress) error {
 
        pc, err := newOutboundPeerConn(addr, sw.nodePrivKey, sw.peerConfig)
        if err != nil {
-               log.WithFields(log.Fields{"address": addr, " err": err}).Debug("DialPeer fail on newOutboundPeerConn")
+               log.WithFields(log.Fields{"address": addr, " err": err}).Error("DialPeer fail on newOutboundPeerConn")
                return err
        }
 
        if err = sw.AddPeer(pc); err != nil {
-               log.WithFields(log.Fields{"address": addr, " err": err}).Debug("DialPeer fail on switch AddPeer")
+               log.WithFields(log.Fields{"address": addr, " err": err}).Error("DialPeer fail on switch AddPeer")
                pc.CloseConn()
                return err
        }
@@ -223,6 +264,17 @@ func (sw *Switch) IsListening() bool {
        return len(sw.listeners) > 0
 }
 
+// loadBannedPeers load banned peers from db
+func (sw *Switch) loadBannedPeers() error {
+       if dataJSON := sw.db.Get([]byte(bannedPeerKey)); dataJSON != nil {
+               if err := json.Unmarshal(dataJSON, &sw.bannedPeer); err != nil {
+                       return err
+               }
+       }
+
+       return nil
+}
+
 // Listeners returns the list of listeners the switch listens on.
 // NOTE: Not goroutine safe.
 func (sw *Switch) Listeners() []Listener {
@@ -254,21 +306,6 @@ func (sw *Switch) Peers() *PeerSet {
        return sw.peers
 }
 
-// SetNodeInfo sets the switch's NodeInfo for checking compatibility and handshaking with other nodes.
-// NOTE: Not goroutine safe.
-func (sw *Switch) SetNodeInfo(nodeInfo *NodeInfo) {
-       sw.nodeInfo = nodeInfo
-}
-
-// SetNodePrivKey sets the switch's private key for authenticated encryption.
-// NOTE: Not goroutine safe.
-func (sw *Switch) SetNodePrivKey(nodePrivKey crypto.PrivKeyEd25519) {
-       sw.nodePrivKey = nodePrivKey
-       if sw.nodeInfo != nil {
-               sw.nodeInfo.PubKey = nodePrivKey.PubKey().Unwrap().(crypto.PubKeyEd25519)
-       }
-}
-
 // StopPeerForError disconnects from a peer due to external error.
 func (sw *Switch) StopPeerForError(peer *Peer, reason interface{}) {
        log.WithFields(log.Fields{"peer": peer, " err": reason}).Debug("stopping peer for error")
@@ -276,32 +313,28 @@ func (sw *Switch) StopPeerForError(peer *Peer, reason interface{}) {
 }
 
 // StopPeerGracefully disconnect from a peer gracefully.
-func (sw *Switch) StopPeerGracefully(peer *Peer) {
-       sw.stopAndRemovePeer(peer, nil)
+func (sw *Switch) StopPeerGracefully(peerID string) {
+       if peer := sw.peers.Get(peerID); peer != nil {
+               sw.stopAndRemovePeer(peer, nil)
+       }
 }
 
 func (sw *Switch) addPeerWithConnection(conn net.Conn) error {
-       peerConn, err := newInboundPeerConn(conn, sw.nodePrivKey, sw.Config)
+       peerConn, err := newInboundPeerConn(conn, sw.nodePrivKey, sw.Config.P2P)
        if err != nil {
-               conn.Close()
+               if err := conn.Close(); err != nil {
+                       log.WithFields(log.Fields{"remote peer:": conn.RemoteAddr().String(), " err:": err}).Error("closes connection err")
+               }
                return err
        }
 
        if err = sw.AddPeer(peerConn); err != nil {
-               conn.Close()
-               return err
-       }
-       return nil
-}
-
-func (sw *Switch) addrBookDelSelf() error {
-       addr, err := NewNetAddressString(sw.nodeInfo.ListenAddr)
-       if err != nil {
+               if err := conn.Close(); err != nil {
+                       log.WithFields(log.Fields{"remote peer:": conn.RemoteAddr().String(), " err:": err}).Error("closes connection err")
+               }
                return err
        }
 
-       sw.addrBook.RemoveAddress(addr)
-       sw.addrBook.AddOurAddress(addr)
        return nil
 }
 
@@ -313,7 +346,10 @@ func (sw *Switch) checkBannedPeer(peer string) error {
                if time.Now().Before(banEnd) {
                        return ErrConnectBannedPeer
                }
-               sw.delBannedPeer(peer)
+
+               if err := sw.delBannedPeer(peer); err != nil {
+                       return err
+               }
        }
        return nil
 }
@@ -333,20 +369,18 @@ func (sw *Switch) delBannedPeer(addr string) error {
 }
 
 func (sw *Switch) filterConnByIP(ip string) error {
-       if ip == sw.nodeInfo.ListenHost() {
-               sw.addrBookDelSelf()
+       if ip == sw.nodeInfo.listenHost() {
                return ErrConnectSelf
        }
        return sw.checkBannedPeer(ip)
 }
 
 func (sw *Switch) filterConnByPeer(peer *Peer) error {
-       if err := sw.checkBannedPeer(peer.RemoteAddrHost()); err != nil {
+       if err := sw.checkBannedPeer(peer.remoteAddrHost()); err != nil {
                return err
        }
 
-       if sw.nodeInfo.PubKey.Equals(peer.PubKey().Wrap()) {
-               sw.addrBookDelSelf()
+       if sw.nodeInfo.getPubkey().Equals(peer.PubKey().Wrap()) {
                return ErrConnectSelf
        }
 
@@ -363,11 +397,11 @@ func (sw *Switch) listenerRoutine(l Listener) {
                        break
                }
 
-               // disconnect if we alrady have 2 * MaxNumPeers, we do this because we wanna address book get exchanged even if
-               // the connect is full. The pex will disconnect the peer after address exchange, the max connected peer won't
-               // be double of MaxNumPeers
-               if sw.peers.Size() >= sw.Config.MaxNumPeers*2 {
-                       inConn.Close()
+               // disconnect if we alrady have MaxNumPeers
+               if sw.peers.Size() >= sw.Config.P2P.MaxNumPeers {
+                       if err := inConn.Close(); err != nil {
+                               log.WithFields(log.Fields{"remote peer:": inConn.RemoteAddr().String(), " err:": err}).Error("closes connection err")
+                       }
                        log.Info("Ignoring inbound connection: already have enough peers.")
                        continue
                }
@@ -380,8 +414,69 @@ func (sw *Switch) listenerRoutine(l Listener) {
        }
 }
 
+func (sw *Switch) dialPeerWorker(a *NetAddress, wg *sync.WaitGroup) {
+       if err := sw.DialPeerWithAddress(a); err != nil {
+               log.WithFields(log.Fields{"addr": a, "err": err}).Error("dialPeerWorker fail on dial peer")
+       }
+       wg.Done()
+}
+
+func (sw *Switch) ensureOutboundPeers() {
+       numOutPeers, _, numDialing := sw.NumPeers()
+       numToDial := (minNumOutboundPeers - (numOutPeers + numDialing))
+       log.WithFields(log.Fields{"numOutPeers": numOutPeers, "numDialing": numDialing, "numToDial": numToDial}).Debug("ensure peers")
+       if numToDial <= 0 {
+               return
+       }
+
+       connectedPeers := make(map[string]struct{})
+       for _, peer := range sw.Peers().List() {
+               connectedPeers[peer.remoteAddrHost()] = struct{}{}
+       }
+
+       var wg sync.WaitGroup
+       nodes := make([]*discover.Node, numToDial)
+       n := sw.discv.ReadRandomNodes(nodes)
+       for i := 0; i < n; i++ {
+               try := NewNetAddressIPPort(nodes[i].IP, nodes[i].TCP)
+               if sw.NodeInfo().ListenAddr == try.String() {
+                       continue
+               }
+               if dialling := sw.IsDialing(try); dialling {
+                       continue
+               }
+               if _, ok := connectedPeers[try.IP.String()]; ok {
+                       continue
+               }
+
+               wg.Add(1)
+               go sw.dialPeerWorker(try, &wg)
+       }
+       wg.Wait()
+}
+
+func (sw *Switch) ensureOutboundPeersRoutine() {
+       sw.ensureOutboundPeers()
+
+       ticker := time.NewTicker(10 * time.Second)
+       defer ticker.Stop()
+
+       for {
+               select {
+               case <-ticker.C:
+                       sw.ensureOutboundPeers()
+               case <-sw.Quit:
+                       return
+               }
+       }
+}
+
 func (sw *Switch) startInitPeer(peer *Peer) error {
-       peer.Start() // spawn send/recv routines
+       // spawn send/recv routines
+       if _, err := peer.Start(); err != nil {
+               log.WithFields(log.Fields{"remote peer:": peer.RemoteAddr, " err:": err}).Error("init peer err")
+       }
+
        for _, reactor := range sw.reactors {
                if err := reactor.AddPeer(peer); err != nil {
                        return err
@@ -391,9 +486,20 @@ func (sw *Switch) startInitPeer(peer *Peer) error {
 }
 
 func (sw *Switch) stopAndRemovePeer(peer *Peer, reason interface{}) {
+       sw.peers.Remove(peer)
        for _, reactor := range sw.reactors {
                reactor.RemovePeer(peer, reason)
        }
-       sw.peers.Remove(peer)
        peer.Stop()
+
+       sentStatus, receivedStatus := peer.TrafficStatus()
+       log.WithFields(log.Fields{
+               "address":               peer.Addr().String(),
+               "reason":                reason,
+               "duration":              sentStatus.Duration.String(),
+               "total_sent":            sentStatus.Bytes,
+               "total_received":        receivedStatus.Bytes,
+               "average_sent_rate":     sentStatus.AvgRate,
+               "average_received_rate": receivedStatus.AvgRate,
+       }).Info("disconnect with peer")
 }