Thinking Globally, Acting Locally: Distantly Supervised Global-to-Local Knowledge Selection for Background Based Conversation

Background Based Conversation (BBCs) have been introduced to help conversational systems avoid generating overly generic responses. In a BBC, the conversation is grounded in a knowledge source. A key challenge in BBCs is Knowledge Selection (KS): given a conversational context, try to find the appropriate background knowledge (a text fragment containing related facts or comments, etc.) based on which to generate the next response. Previous work addresses KS by employing attention and/or pointer mechanisms. These mechanisms use a local perspective, i.e., they select a token at a time based solely on the current decoding state. We argue for the adoption of a global perspective, i.e., pre-selecting some text fragments from the background knowledge that could help determine the topic of the next response. We enhance KS in BBCs by introducing a Global-to-Local Knowledge Selection (GLKS) mechanism. Given a conversational context and background knowledge, we first learn a topic transition vector to encode the most likely text fragments to be used in the next response, which is then used to guide the local KS at each decoding timestamp. In order to effectively learn the topic transition vector, we propose a distantly supervised learning schema. Experimental results show that the GLKS model significantly outperforms state-of-the-art methods in terms of both automatic and human evaluation. More importantly, GLKS achieves this without requiring any extra annotations, which demonstrates its high degree of scalability.

The effects of government spending over the business cycle

Η παρούσα διατριβή εξετάζει τις επιδράσεις των επιμέρους συνιστωσών των κυβερνητικών δαπανών κατά τη διάρκεια του οικονομικού κύκλου (δηλαδή, άνθηση και ύφεση). Χρησιμοποιούνται δύο διαφορετικές κατηγοριοποιήσεις κυβερνητικών δαπανών, όπως αυτές προτείνονται από το Διεθνές Νομισματικό Ταμείο (ΔΝΤ): η οικονομική και η λειτουργική κατηγοριοποίηση. Η οικονομική κατηγοριοποίηση διαχωρίζει τις δημόσιες δαπάνες με βάση τον τύπο ή τον οικονομικό χαρακτήρα της δαπάνης, ενώ η λειτουργική κατηγοριοποίηση οργανώνει τις δαπάνες σύμφωνα με το σκοπό για τον οποίο δαπανώνται. Στα κεφάλαια 3 και 4 επιστρατεύεται η οικονομική κατηγοριοποίηση, αλλά με τη χρήση εναλλακτικών μεθόδων εκτίμησης. Στο κεφάλαιο 3 χρησιμοποιείται ένα υπόδειγμα δομικής διανυσματικής αυτοπαλινδρόμησης ομαλής μετάβασης (Smooth Transition Vector Autoregressive (STVAR)) και δεδομένα από τις Ηνωμένες Πολιτείες, ενώ στο κεφάλαιο 4, οι δημοσιονομικοί πολλαπλασιαστές εκτιμώνται με τη χρήση των τοπικών προβολών (Local Projections) και δεδομένα πάνελ από χώρες μέλη του ΟΟΣΑ, αλλά και από χώρες μη-μέλη του ΟΟΣΑ. Τέλος, στο κεφάλαιο 5 χρησιμοποιούνται τοπικές προβολές (Local Projections) και δεδομένα πάνελ χωρών μελών του ΟΟΣΑ για να εκτιμηθούν δημοσιονομικοί πολλαπλασιαστές με βάση τη λειτουργική κατηγοριοποίηση. Τα αποτελέσματα επιβεβαιώνουν τους ισχυρισμούς για την ύπαρξη ετερογένειας μεταξύ των συνιστωσών των δημοσίων δαπανών, αλλά και μεταξύ των φάσεων του οικονομικού κύκλου.